União Europeia Começa a Exigir Identificação de Conteúdos Criados por Inteligência Artificial

A utilização da inteligência artificial está a transformar rapidamente a forma como conteúdos digitais são produzidos e consumidos. Imagens, vídeos, áudios e textos gerados por sistemas inteligentes tornaram-se cada vez mais realistas, dificultando muitas vezes a distinção entre materiais autênticos e conteúdos produzidos artificialmente.

Perante este cenário, a União Europeia deu mais um passo na regulamentação desta tecnologia ao implementar novas regras destinadas a aumentar a transparência e reduzir os riscos associados à disseminação de conteúdos enganosos. As novas medidas fazem parte da aplicação do AI Act, o regulamento europeu dedicado à inteligência artificial, e estabelecem novas responsabilidades para empresas que desenvolvem ou disponibilizam sistemas de IA no mercado europeu.

O principal objetivo é garantir que os utilizadores saibam quando estão perante conteúdos criados por inteligência artificial, reforçando a confiança na informação disponível online e contribuindo para o combate à desinformação.

Mudanças consoante novas regras europeias

A partir da entrada em vigor das novas disposições, os sistemas de inteligência artificial lançados no mercado europeu passam a executar exigências adicionais relacionadas com a transparência.

Assim que uma imagem, um vídeo, um ficheiro de áudio ou um texto for produzido por inteligência artificial e apresentado de forma realista, deverá existir uma identificação clara que informe o utilizador sobre a sua origem.

Esta obrigação aplica-se também aos chatbots, permitindo que qualquer pessoa saiba quando está a interagir com um sistema automatizado em vez de um ser humano.

Os sistemas que já estavam em funcionamento antes da entrada destas normas beneficiam de um período de adaptação de quatro meses para se adequarem às novas regras.

Novas responsabilidades das Empresas

As organizações que recorrem à inteligência artificial passam a assumir um papel mais ativo na identificação dos conteúdos gerados pelos seus sistemas. Das quais encontram-se abaixo:

• informar claramente quando um conteúdo foi criado por IA;
• identificar imagens, vídeos, áudios e textos produzidos artificialmente;
• garantir transparência na interação com chatbots;
• incorporar mecanismos técnicos que permitam comprovar a origem artificial do conteúdo.

Além da identificação visível, os materiais deverão incluir uma marca de água digital, permitindo confirmar que foram produzidos através de inteligência artificial.

Esta medida pretende dificultar a circulação de conteúdos manipulados sem qualquer indicação da sua origem.

Passam a ser identificados Textos sobre temas públicos

As novas regras não abrangem apenas conteúdos multimédia.

Os textos produzidos por inteligência artificial relacionados com assuntos de interesse público também deverão ser identificados quando não existir supervisão editorial humana durante a sua elaboração.

O propósito é permitir que o leitor compreenda a origem do conteúdo, sobretudo quando este aborda temas com potencial impacto social, político ou informativo.

Desta forma, pretende-se aumentar a confiança dos cidadãos na informação disponibilizada na Internet.

Transparência como instrumento de proteção

A União Europeia considera que estas medidas representam um passo importante para proteger não apenas os consumidores, mas também o funcionamento das instituições democráticas.

A crescente capacidade da inteligência artificial para criar conteúdos altamente convincentes tornou mais difícil distinguir informação verdadeira de materiais manipulados.

Segundo os responsáveis envolvidos na elaboração do regulamento, conhecer a origem de um conteúdo tornou-se essencial para que os cidadãos possam avaliar corretamente aquilo que veem ou leem.

Deepfakes aceleraram a criação das novas normas

Nos últimos tempos, a evolução da inteligência artificial permitiu o aparecimento de deepfakes cada vez mais sofisticados.

Estas tecnologias conseguem criar vídeos, imagens e gravações de áudio extremamente realistas, simulando pessoas reais a dizer ou fazer algo que nunca aconteceu.

Diversos episódios envolvendo figuras públicas europeias demonstraram o potencial destes conteúdos para induzir o público em erro.

Para os reguladores europeus, situações como estas evidenciaram a necessidade de estabelecer regras claras capazes de reduzir os riscos associados à utilização abusiva da inteligência artificial.

Há conteúdos que ficam fora da obrigação

Apesar das novas exigências, a regulamentação prevê algumas exceções.

Nem todo o conteúdo criado com recurso à inteligência artificial terá obrigatoriamente de apresentar um aviso identificando a sua origem.

Abaixo temos as principais exclusões:

• conteúdos produzidos para uso exclusivamente pessoal;
• obras claramente artísticas;
• produções satíricas;
• trabalhos de ficção.

Além disso, embora a Comissão Europeia incentive as empresas a identificarem conteúdos produzidos antes da entrada em vigor das novas regras, essa identificação continua a ser facultativa.

Estas exceções procuram equilibrar a necessidade de transparência com a liberdade de criação artística e de expressão.

O que pode acontecer caso nao cumprir

O AI Act prevê consequências significativas para empresas que ignorem as novas obrigações.

As organizações que não cumprirem os requisitos de transparência poderão enfrentar multas que podem atingir 15 milhões de euros ou 3% do volume de negócios anual mundial, consoante o que estiver previsto na legislação aplicável.

Além das penalizações financeiras, a Comissão Europeia disponibilizou um conjunto de símbolos oficiais gratuitos para facilitar a identificação dos conteúdos gerados por inteligência artificial.

Apesar disso, as empresas continuam livres para desenvolver os seus próprios sistemas de rotulagem, desde que cumpram todas as exigências legais estabelecidas pelo regulamento.

Manifestação de reservas por Parte da indústria tecnológica

Embora exista ou tenha um consenso relativamente à importância de combater a desinformação e aumentar a transparência, nem todas as empresas do setor tecnológico concordam com a forma como as novas regras serão aplicadas.

Alguns representantes da indústria consideram que as orientações divulgadas pela Comissão Europeia alargam demasiado o universo de conteúdos que deverão ser identificados. Na sua perspetiva, a intenção inicial era destacar apenas materiais potencialmente enganadores, mas a interpretação atual poderá abranger praticamente qualquer conteúdo produzido com recurso à inteligência artificial.

Esta preocupação surge porque diferentes tipos de conteúdos passam a receber um tratamento semelhante, independentemente do contexto em que são utilizados.

O risco da banalização dos avisos

Outro argumento apresentado por representantes do setor é que o excesso de notificações pode reduzir a eficácia da própria medida.

Segundo esta visão, quando os utilizadores encontram avisos em praticamente todos os conteúdos, tendem a ignorá-los, fenómeno semelhante ao que aconteceu com os avisos sobre cookies presentes em inúmeros websites.

Caso isso aconteça, o objetivo de aumentar a transparência poderá perder parte da sua eficácia, ao mesmo tempo que aumenta os encargos administrativos para empresas que utilizam inteligência artificial em processos criativos e comerciais.

Os setores que poderão sentir maior impacto incluem:

• Publicidade digital;
• Produção audiovisual;
• Cinema e entretenimento;
• Editoras e meios de comunicação;
• Marketing de conteúdos.

Nestas áreas, a inteligência artificial já é utilizada com frequência para acelerar processos de criação, edição e produção de materiais digitais.

Grandes plataformas já adotaram sistemas de identificação

Mesmo antes da entrada em vigor destas obrigações, várias empresas tecnológicas já tinham implementado mecanismos destinados a informar os utilizadores quando determinados conteúdos eram produzidos por inteligência artificial.

Entre os exemplos mais conhecidos está o TikTok, que exige aos criadores a identificação de imagens, vídeos e áudios realistas gerados por IA. A plataforma afirma já ter utilizado os seus sistemas para assinalar milhares de milhões de conteúdos.

Ainda assim, investigações recentes demonstraram que continuam a circular perfis criados com personagens artificiais que conseguem alcançar grandes audiências, incluindo contas que difundem conselhos de saúde considerados pouco fiáveis.

Outro exemplo é a Google, que lançou a tecnologia SynthID, desenvolvida para inserir marcas de água invisíveis em conteúdos produzidos por inteligência artificial. Segundo a empresa, esta solução já foi aplicada em dezenas de milhares de milhões de imagens e numa enorme quantidade de conteúdos áudio.

Por sua vez, a Meta, proprietária do Facebook e do Instagram, também participa nas iniciativas europeias destinadas a promover maior transparência na utilização da inteligência artificial.

Estas empresas aderiram ao código voluntário de boas práticas criado para facilitar o cumprimento das novas exigências previstas no AI Act.

Código voluntário reforça compromisso das empresas

Além das obrigações legais, a Comissão Europeia promove um código de boas práticas destinado às organizações que desenvolvem ou utilizam sistemas avançados de inteligência artificial.

Mais de uma centena de organizações aderiram voluntariamente a esta iniciativa, elaborada por especialistas independentes sob supervisão das autoridades europeias.

Embora a adesão não seja obrigatória, Bruxelas considera que este compromisso demonstra uma intenção clara de cumprir os princípios definidos pelo regulamento.

As empresas que optarem por não aderir continuam obrigadas a provar, por outros meios, que respeitam todas as exigências legais aplicáveis.

O impacto esperado para utilizadores e empresas

As novas regras representam uma mudança significativa na forma como conteúdos gerados por inteligência artificial serão apresentados ao público europeu.

Para os utilizadores, a identificação obrigatória deverá facilitar a distinção entre conteúdos reais e materiais produzidos artificialmente, permitindo uma avaliação mais consciente da informação consumida.

Para as empresas, o desafio passa por adaptar processos, tecnologias e plataformas às novas exigências legais, incorporando mecanismos de rotulagem e identificação sem comprometer a inovação.

Embora existam opiniões divergentes sobre a abrangência das medidas, há um consenso de que a crescente utilização da inteligência artificial exige novas formas de garantir transparência e responsabilidade na criação de conteúdos digitais.

Conclusão

Com o início em vigor das novas regras do AI Act marca mais uma etapa na estratégia da União Europeia para regulamentar a utilização da inteligência artificial. A obrigatoriedade de identificar imagens, vídeos, áudios, textos e interações geradas por IA pretende reforçar a confiança dos cidadãos na informação que circula na Internet e reduzir o impacto de conteúdos manipulados que possam induzir o público em erro.

Ao mesmo tempo, o regulamento procura equilibrar a promoção da inovação tecnológica com a proteção do interesse público, estabelecendo responsabilidades claras para empresas que desenvolvem ou utilizam sistemas de inteligência artificial. Apesar das críticas de parte da indústria tecnológica, estas medidas refletem a preocupação crescente das autoridades europeias em criar um ambiente digital mais transparente, seguro e fiável, acompanhando a rápida evolução desta tecnologia e os desafios que ela coloca à sociedade.

Fonte: EXECUTIVEDIGEST