OpenAI admite publicação indevida de imagens de usuários do ChatGPT

OpenAI
Reuters/Dado Ruvic
A OpenAI reconheceu nesta sexta-feira (25) que agentes de inteligência artificial (IA) usados pela empresa publicaram na internet 53 imagens enviadas por usuários ao ChatGPT. O episódio é mais um incidente envolvendo o uso indevido de dados pela companhia.
Segundo a OpenAI, as imagens foram publicadas em sites de hospedagem por meio de links que não estavam listados publicamente.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
A maioria das imagens já foi retirada com a ajuda dos serviços de hospedagem envolvidos, e a empresa afirma que trabalha para remover o restante.
🔎Agentes de IA são sistemas baseados em modelos de inteligência artificial capazes de executar uma sequência de tarefas com maior autonomia.
Agora no g1
As imagens haviam sido enviadas por usuários que permitiam que suas interações com o ChatGPT fossem usadas para treinar os modelos da OpenAI. Antes de usar os dados para esse fim, a empresa afirma que retira informações que poderiam identificar a conta e aplica um filtro para ocultar dados pessoais. Por isso, diz não conseguir mais identificar quem enviou o conteúdo.
A OpenAI, que não respondeu de imediato ao contato da AFP, não informou se as imagens mostravam pessoas identificáveis ou continham dados sensíveis.
Segundo a OpenAI, alguns agentes usados em seu ambiente de pesquisa transmitiram indevidamente a serviços externos dados de treinamento e avaliação. A maior parte desse material não tinha origem em dados de usuários. Os episódios ocorreram antes de a empresa adotar novas medidas de segurança, em agosto.
A empresa afirma que está revisando as atividades anteriores de seus agentes e que esse trabalho “levará meses”. Também informou ter notificado dezenas de terceiros sobre ações indevidas desses sistemas, entre eles governos, universidades, órgãos públicos e outras instituições.