Resumo de Transparência em IA

A Flamus implanta inteligência artificial em várias camadas operacionais da plataforma. Esses sistemas são usados para dar suporte à segurança, personalização e integridade do conteúdo:

• Moderação de conteúdo: Classificadores automatizados auxiliam na detecção de material que viola políticas, incluindo imagens não consensuais, violações de segurança infantil e discurso de ódio direcionado, antes da revisão humana. Os sistemas de IA também auxiliam na revisão de conformidade pré-publicação - particularmente para sinais de proteção infantil, indicadores de verificação de consentimento e categorias de conteúdo de alto risco - operando além dos mecanismos de moderação pós-publicação. O envio de conteúdo não garante a publicação, pendente de análise humana e assistida por IA.
• Sistemas de recomendação: Modelos de classificação algorítmica são usados para apresentar conteúdo relevante de criadores aos usuários com base em sinais de engajamento e preferências declaradas. Os sistemas de recomendação dependem principalmente de sinais de engajamento (como interações, assinaturas e preferências do usuário) em vez de características pessoais sensíveis, e não são projetados para criar perfis de usuários com base em raça, etnia, religião, opinião política, orientação sexual ou outras características sensíveis.
• Verificação de identidade e idade: Verificações de documentos e de prova de vida (liveness) assistidas por IA apoiam o nosso fluxo de trabalho de verificação de identidade obrigatório. Os processos de verificação biométrica são implementados de forma proporcional e sujeitos às salvaguardas legais aplicáveis.
• Risco de fraude e pagamento: Modelos de aprendizado de máquina (machine learning) analisam padrões de transação para detectar e sinalizar atividades anômalas, chargebacks e abusos financeiros. Os modelos de monitoramento de transações podem operar no nível da identidade verificada, avaliando o comportamento financeiro e os indicadores de risco de forma agregada em vários perfis de Criador vinculados associados ao mesmo indivíduo verificado. O monitoramento de transações no nível da identidade é conduzido de forma proporcional e estritamente para prevenção de fraude, conformidade com PLD e fins de integridade da plataforma. Esse monitoramento não constitui perfilamento comportamental para publicidade ou personalização de conteúdo.
• Detecção de conteúdo sintético: Existem ferramentas em vigor para identificar imagens geradas por IA e conteúdo deepfake que possam violar a nossa Política de Uso Aceitável. Os criadores são obrigados a divulgar conteúdo sintético ou gerado por IA no momento do upload. Os sistemas de detecção de IA podem cruzar as declarações de divulgação do Criador com saídas de classificação automatizadas para identificar discrepâncias e apoiar a revisão de conformidade.

Nenhuma decisão de punição final ou irreversível é baseada apenas em processamento automatizado sem uma revisão humana significativa:

Onde os sistemas automatizados contribuem materialmente para uma decisão que produz efeitos legais ou de impacto similar, os usuários retêm o direito de solicitar intervenção humana, expressar seu ponto de vista e contestar a decisão por meio da Interface de Relatórios, de acordo com a lei de proteção de dados territorial aplicável.

• Decisões de moderação: Todas as sinalizações automatizadas de conteúdo que resultam em remoção ou restrição de conta estão sujeitas à verificação humana pela nossa equipe de Confiança e Segurança (Trust and Safety).
• Recursos: Qualquer ação punitiva pode ser contestada por meio de nosso Processo de Recursos, onde um moderador humano - independente da decisão original - conduz uma revisão completa.
• Categorias de alto risco: O conteúdo que envolva menores de idade, material não consensual ou má conduta financeira é sempre encaminhado para um revisor humano sênior, independentemente do resultado automatizado.
• Sanções financeiras: Sanções financeiras, restrições de pagamento, retenção de ganhos ou ações punitivas no nível da conta com impacto econômico material não são impostas unicamente por sistemas automatizados. Todas as ações desse tipo requerem revisão humana antes da implementação, de forma consistente com as obrigações do Art. 22 do GDPR e da Política de Ganhos e Pagamentos.

A Flamus reconhece que os sistemas de IA não são infalíveis. Estamos empenhados em divulgar as limitações conhecidas de forma transparente:

• Falsos positivos: Os classificadores automatizados podem sinalizar incorretamente conteúdos que não violam as nossas políticas. Os usuários podem contestar tais decisões através do fluxo padrão de recursos.
• Viés e justiça: Realizamos auditorias periódicas dos nossos modelos de moderação para identificar e mitigar preconceitos demográficos ou contextuais nos resultados das ações punitivas (enforcement).
• Capacidades em evolução: Os sistemas de IA implementados na Flamus são atualizados regularmente. Alterações materiais no seu escopo ou perfil de risco refletir-se-ão na documentação de política atualizada.

A Flamus aplica controlos rigorosos sobre a forma como os dados do utilizador se cruzam com o desenvolvimento do modelo de IA:

• Nenhum treinamento com terceiros: O conteúdo gerado pelo utilizador na Flamus não é partilhado, nem utilizado para treinar modelos de IA de terceiros sem consentimento explícito.
• Comunicações privadas: A Flamus não utiliza comunicações privadas de utilizadores para fins de formação de modelos de IA.
• Dados biométricos: Os dados biométricos recolhidos para efeitos de verificação de identidade são processados exclusivamente para verificação de identidade e prevenção de fraudes. São mantidos apenas pelo período mínimo exigido pela lei aplicável e não são utilizados para perfilamento comportamental, classificação, personalização de conteúdo ou treinamento de modelos de IA além do estritamente necessário para as funções de verificação e prevenção de fraude para as quais foram coletados. Os dados biométricos são processados de acordo com a lei de proteção de dados aplicável, incluindo a PDPO de Hong Kong (Cap. 486)e o GDPR e LGPD quando aplicável por escopo territorial, e está sujeito aos princípios de minimização de dados e limitação de finalidade descritos na nossa Política de Privacidade.
• Dados de treinamento interno: Sempre que dados da plataforma agregados e anonimizados forem utilizados para melhorar os classificadores internos, isso será feito de acordo com a nossa Política de Privacidade e as obrigações aplicáveis do GDPR.
• Conteúdo de IA gerado por criadores: O conteúdo produzido utilizando ferramentas de IA pelos criadores permanece sujeito à nossa Política de Uso Aceitável e não concede à Flamus quaisquer direitos de dados adicionais além dos definidos nos Termos de Serviço.

A nossa estrutura de governança de IA é desenvolvida de acordo com as normas regulamentares aplicáveis que regem a inteligência artificial, a proteção de dados e a tomada de decisões automatizada. Como uma entidade constituída em Hong Kong, a principal âncora regulatória da Flamus é a lei de Hong Kong. Quando o escopo territorial é acionado, a Flamus conduz uma classificação de risco interna de sistemas de IA relevantes de forma consistente com a estrutura baseada em risco da Lei de IA da UE (EU AI Act). Tal classificação é revisada periodicamente e pode evoluir de acordo com a interpretação da autoridade supervisora e a orientação de implementação. A interpretação regulatória final das obrigações aplicáveis permanece sujeita às autoridades supervisoras competentes na jurisdição relevante.

Nosso Conselho de Inovação Responsável - um órgão de governança interna responsável pela supervisão de IA, revisão de riscos e documentação - revisa implantações de sistemas de IA e atualizações materiais periodicamente. O Conselho de Inovação Responsável não constitui uma autoridade reguladora externa e suas determinações não substituem a conformidade com a lei aplicável. Resumos dessas avaliações serão incluídos nos futuros Relatórios de Transparência.

A Flamus integra considerações de segurança de IA na fase de conceção do produto, e não como uma reflexão tardia:

• Equipe Vermelha (Red-teaming): Antes de implantar novos recursos baseados em IA, testes adversários internos são conduzidos para identificar possíveis vetores de uso indevido ou modos de falha.
• Avaliação independente: Avaliações independentes de segurança de terceiros ou de risco de IA podem ser conduzidas quando exigido por desenvolvimentos regulatórios, orientação de supervisão ou revisão de governança interna. Tais avaliações estão sujeitas a obrigações de confidencialidade e os seus resultados são utilizados para informar a remediação interna.
• Lançamento em fases: Novos sistemas de IA são introduzidos progressivamente, com controlos de monitorização em vigor antes da implementação total em toda a plataforma.
• Resposta a incidentes: Qualquer incidente de segurança relacionado à IA está sujeito ao nosso protocolo de resposta a incidentes padrão, incluindo análise de causa raiz e documentação de remediação.

A Flamus mantém documentação interna de arquitetura do sistema de IA, avaliações de risco, protocolos de testes e métricas de monitorização de desempenho. O acesso a estes sistemas é restrito a pessoal autorizado sob rigorosos controlos de governança.

Sempre que necessário, são realizadas avaliações de impacto para sistemas de IA que possam apresentar riscos regulamentares ou éticos elevados.

Embora a Flamus esteja comprometida com a transparência de alto nível em relação às categorias de sistemas de IA que opera e às estruturas de governança aplicáveis a eles, não divulga publicamente arquiteturas detalhadas de modelos, limites de detecção, pesos de treinamento ou salvaguardas operacionais específicas onde tal divulgação comprometeria materialmente a integridade da plataforma, a eficácia do sistema de segurança ou a segurança dos mecanismos de proteção infantil. Essa limitação de divulgação é aplicada de acordo com os princípios de segurança e confidencialidade da plataforma descritos na Política de Conformidade e Transparência.

Ações de moderação assistida por IA, sinalizações automatizadas, resultados de verificação de identidade e sinais de detecção de fraude são registrados em sistemas internos de conformidade para dar suporte à auditabilidade, cooperação regulatória e obrigações de relatórios de transparência.

Todas as solicitações relativas a decisões automatizadas, moderação assistida por IA, fiscalização financeira, avaliação de risco em nível de identidade ou inquérito regulatório devem ser submetidas exclusivamente através da Interface de Relatórios da Flamus.

Submissões através da Interface de Relatórios:

• São registradas e datadas (time-stamped)
• Recebem uma referência de caso interno estruturada
• São encaminhadas para o registro de conformidade apropriado
• Podem desencadear uma revisão no nível da identidade onde os indicadores de risco financeiro ou de fraude estão presentes

A Flamus não processa reclamações, apelações ou submissões regulatórias relacionadas a IA por meio de canais diretos de e-mail.