Depois de figuras conhecidas como Elon Musk e o diretor de cinema Christopher Nolan já terem se posicionado sobre os perigos da inteligência artificial, especialistas da OpenAI – detentora do ChatGPT – acusam a empresa de negligenciar os riscos no desenvolvimento da IAG (inteligência artificial geral). Essa denominação refere-se à capacidade hipotética da IA de realizar qualquer tarefa intelectual que um ser humano seja capaz de fazer.
Em uma entrevista para o The New York Times, o ex-investigador de governança da OpenAI, Daniel Kokotajlo, afirmou que a empresa está agindo de forma imprudente ao tentar liderar a tecnologia. Além disso, ele também mencionou que a IA tem aproximadamente 70% de chances de destruir a humanidade.
Kakotajlo revelou que, após ingressar na empresa em 2022 e analisar o progresso da tecnologia, ele se convenceu de que a indústria alcançaria a IAG até 2027. No entanto, havia uma alta probabilidade de que isso resultasse em danos catastróficos.
Ex-funcionários da OpenAI publicaram uma carta aberta nesta terça-feira (4), pedindo maior transparência e proteção para os denunciantes do trabalho das principais empresas de inteligência artificial. Kokotajlo é um dos signatários, juntamente com antigos funcionários do Google DeepMind e Geoffrey Hinton, considerado o “Padrinho da IA”.
Na carta, os autores reconhecem o potencial da tecnologia de IA para trazer benefícios significativos à humanidade, mas destacam riscos como a ampliação das desigualdades, manipulação, desinformação e perda de controle de sistemas autônomos, que poderia levar à extinção da humanidade.
Eles expressam a esperança de que esses riscos possam ser mitigados com o apoio da comunidade científica, dos legisladores e do público em geral, mas alertam que as empresas de IA têm incentivos financeiros para evitar uma supervisão eficaz. A carta demanda por uma supervisão governamental eficaz das empresas e aponta que os acordos de confidencialidade impedem os funcionários de expressarem suas preocupações, temendo retaliações devido ao histórico de casos na indústria.
