Há muitos campos que serão ou já estão sendo afetados pelo uso da Inteligência Artificial generativa, ou seja, a IA que é capaz de gerar textos, imagens e outros formatos de conteúdos. A rapidez com que essa tecnologia se dissemina pelo mundo e os possíveis efeitos negativos da sua aplicação, como a proliferação de desinformação, perda de postos de emprego ou mesmo a questão dos direitos autorais têm estimulado pesquisadores e entusiastas a refletirem um pouco mais sobre regras ou acordos mínimos para o uso da IA.

No Jornalismo, área que enfrenta dilemas reais de como aplicar ou não aplicar a IA, começam a surgir algumas diretrizes para o uso dessa tecnologia. Essa discussão é fundamental porque o Jornalismo, a despeito de muitas outras instituições, produz conteúdo com impacto direto sobre a esfera pública, orientando a opinião pública, políticas de governo e comportamentos do cidadão. Apesar de suas limitações e imperfeições, o Jornalismo continua sendo fundamental, em especial em um contexto de hiperfragmentação da informação e da comunicação plataformizada.

Nesse contexto, os pesquisadores Hannes Cools (University of Amsterdam) e Nick Diakopoulos (Northwestern University) publicaram esta semana um resumo das diretrizes que 21 organizações jornalísticas na Suécia, Noruega, Canadá, Brasil, EUA, Reino Unidos, entre outros países, passaram a adotar desde que a IA se disseminou pelo mundo.

Coloquei o link para o texto original (Towards Guidelines for Guidelines on the Use of Generative AI in Newsrooms) no fim deste post, mas resumi em nove tópicos as linhas gerais das diretrizes que Cools e Diakopoulos mapearam.

1. Supervisão: As diretrizes identificadas pelos pesquisadores mencionam a supervisão e a vinculam deliberadamente à importância do envolvimento humano significativo e da supervisão no uso da IA, inclusive por meio de edição adicional e verificação dos resultados antes da publicação. As organizações de notícias também rejeitam a ideia de substituir jornalistas por máquinas e destacam a importância do papel de tomada de decisão dos humanos ao usar ferramentas generativas de IA.
2. Transparência: As menções à transparência estão muitas vezes interligadas com o requisito de que o conteúdo deve ser rotulado de forma compreensível para o público. No entanto, muitas vezes não está claro nas diretrizes, segundo os autores do levantamento, como essas menções à transparência se concretizarão na prática.
3. Usos proibidos x permitidos: Usos proibidos e permitidos de IA generativa são frequentemente listados nas diretrizes como formas de orientar as práticas, embora às vezes também sejam acompanhados de exceções. Para essas exceções, as condições de transparência, responsabilidade e prestação de contas são explicitadas nas diretrizes. Também é dada muita atenção ao caso de uso da geração de imagens.
4. Prestação de contas e responsabilidade: A prestação de contas e a responsabilidade são frequentemente mencionadas nas diretrizes em relação ao conteúdo publicado, bem como valores como precisão, justiça, originalidade e transparência. Segundo os pesquisadores, a implementação de medidas de responsabilização pelo uso de dados e produtos de IA também é destacada, assim como o uso de sistemas de IA tecnicamente robustos e seguros para minimizar riscos.
5. Privacidade e confidencialidade: Privacidade e confidencialidade são frequentemente mencionadas em termos de proteção de fonte e cuidado ao fornecer informações confidenciais para plataformas externas. Além disso, as diretrizes destacam que eles devem ter cuidado ao usar conteúdo confidencial ou não publicado como entrada para ferramentas generativas de IA.
6. Experimentação cautelosa: As menções de experimentação cautelosa nas diretrizes geralmente estão associadas a curiosidade e crítica, ao mesmo tempo em que destacam o potencial de inovação. Também há ênfase na verificação da veracidade dos resultados gerados pela IA, pois há um foco em reconhecer os riscos de desinformação e a “corrupção da verdade”, segundo o levantamento dos pesquisadores.
7. Uso estratégico: Em vários casos, os documentos de diretrizes também expressam os objetivos estratégicos da organização na implantação de IA generativa. As motivações mencionadas incluíam o desejo de aumentar a originalidade, a qualidade e até a velocidade, ao mesmo tempo que, às vezes, refletiam o desejo de não substituir os jornalistas e defender valores fundamentais como independência/imparcialidade.
8. Treinamento: O treinamento raramente é mencionado nas diretrizes, no entanto, quando é mencionado, o treinamento e as aulas estão principalmente vinculados à mitigação dos riscos da IA ​​generativa e à responsabilidade e transparência com o público.
9. Adaptabilidade das diretrizes: Segundo os pesquisadores, várias das diretrizes refletiram humildade diante de mudanças rápidas e chamaram a atenção para a importância de adaptar essas regras à medida que a compreensão dos riscos evolui.

Após listarem as diretrizes, Cools e Diakopoulos acrescentam alguns comentários sobre itens que poderiam ter sido explorados ou que os veículos poderiam focar maior atenção, como, por exemplo, a revisão das diretrizes segundo códigos de ética profissional.

Para mais detalhes do artigo “Towards Guidelines for Guidelines on the Use of Generative AI in Newsrooms” acesse aqui.