A Organização Mundial da Saúde (OMS) pediu cautela nesta terça-feira (16), em um comunicado, a respeito do uso da inteligência artificial (IA) na área da saúde e também expressou suas preocupações com a inserção rápida da tecnologia sem um treinamento “mais consistente”.
Segundo o comunicado, “é imperativo que os riscos sejam examinados cuidadosamente ao usar LLMs para melhorar o acesso a informações de saúde, como uma ferramenta de apoio à decisão ou mesmo para aumentar a capacidade de diagnóstico em ambientes com poucos recursos para proteger a saúde das pessoas e reduzir a desigualdade”
Os LLMs (Modelos de linguagem) utilizam algoritmos de ‘aprendizagem profunda’ para imitar a comunicação humana, como o famoso ChatGPT da OpenAI, a Bard do Google e entre outros. De acordo com a OMS, a expansão pública e crescente do uso de IAs para fins relacionados à área da saúde tem causado grande entusiasmo devido ao enorme potencial que a tecnologia tem para ajudar nas necessidades de saúde das pessoas.
Embora a própria organização esteja entusiasmada com os benefícios dessa tecnologia, “existe a preocupação de que o cuidado que normalmente seria exercido para qualquer nova tecnologia não esteja sendo exercido de forma consistente com os LLMs.”
O uso precipitado dessas ferramentas, sem os devidos testes, pode levar a erros por parte dos profissionais de saúde. Além de causar danos aos pacientes e diminuir a confiança nas inteligências artificiais.
A OMS expressou algumas preocupações que “exigem uma supervisão rigorosa” para que as IAs sejam utilizadas de maneira a promover o bem estar e a segurança, de forma eficaz e ética. Entre elas está o fato de que os dados usados para o treinamento da IA podem ser “tendenciosos” gerando informações falsas e imprecisas além de conter erros graves; a falta de segurança e privacidade em relação aos dados confidenciais do usuário;
Em seu comunicado, a organização pede que essas preocupações sejam abordadas antes que o uso dessas ferramentas seja generalizado no ambiente de saúde.
Diretor-geral da OMS, Tedros Adhanom Ghebreyesus (Foto: Reprodução/Evan Schneider/ONU)
Em 2021, a OMS publicou seu primeiro relatório global sobre IA na saúde, “Ética e Governança de Inteligência Artificial para a Saúde”, resultado de quase dois anos de consultas e pesquisas realizadas por especialistas internacionais. Conforme informações apresentadas no relatório, há seis princípios éticos identificados como fundamentais pela organização ao “projetar, desenvolver e implantar” inteligência artificial na área da saúde:
- Proteger a autonomia;
- Promover o bem-estar humano, a segurança humana e o interesse público;
- Garantir transparência, explicabilidade e inteligibilidade;
- Promover responsabilidade e prestação de contas;
- Garantir inclusão e equidade;
- Promover uma IA responsiva e sustentável.
De acordo com a OMS, esses princípios asseguram que a inteligência artificial opere visando o benefício de todos, com o foco no bem-estar humano sendo priorizado em todas as etapas de seu desenvolvimento, implementação e utilização.
Foto Destaque: Organização Mundial da Saúde. Reprodução/Reuters.