Geoffrey Hinton, um dos “padrinhos da inteligência artificial (IA)”, está alertando que a tecnologia que ele ajudou a criar pode assumir o controle dos seres humanos.
Em uma entrevista à CBS Saturday Morning, Hinton disse que a IA se desenvolveu ainda mais rápido do que ele esperava originalmente, citando a aceleração dos agentes de IA como um desenvolvimento particularmente assustador.
Geoffrey Hinton, um dos “padrinhos da IA”, está alertando que a tecnologia que ele ajudou a criar pode assumir o controle dos seres humanos Foto: UNIVERSITY DE ONTARIO
Ele também previu que a inteligência artificial geral, um sistema teórico de IA que possui habilidades cognitivas semelhantes às humanas, poderia chegar em 10 anos ou menos.
Hinton, que é um dos criadores das principais tecnologias de redes neurais, há muito tempo adverte que a IA pode representar uma ameaça existencial para os seres humanos.
Em 2023, ele deixou o Google depois de ficar profundamente preocupado com os riscos que a inteligência artificial poderia representar para a humanidade. Na época, ele disse que queria falar abertamente sobre esses perigos sem ser restringido por seus vínculos com uma grande empresa de tecnologia.
Ele já havia alertado anteriormente que os sistemas de IA poderiam um dia se tornar mais inteligentes que os humanos e agir de maneiras que não podemos controlar – potencialmente representando uma ameaça à própria humanidade.
Na entrevista, que foi ao ar na última semana, Hinton reiterou essas preocupações.
“Se considerarmos a possibilidade de que essas coisas se tornem muito mais inteligentes do que nós e, então, tirem o controle de nós e assumam o controle, a probabilidade de isso acontecer é muito provavelmente maior do que 1% e muito provavelmente menor do que 99%. Praticamente todos os especialistas concordam com isso”, disse ele.
“Estou na posição infeliz de concordar com Elon Musk sobre isso, ou seja, que há uma chance de 10% a 20% de que essas coisas assumam o controle”, disse ele, acrescentando que ainda era apenas um “palpite”.
“A melhor maneira de entender isso emocionalmente é que somos como alguém que tem um filhote de tigre muito bonito”, explicou Hinton. “A menos que você tenha certeza de que ele não vai querer matá-lo quando crescer, você deve se preocupar.”
Ele enfatizou que, se o mundo continuasse a abordar a IA com uma mentalidade voltada para o lucro, haveria uma probabilidade maior de uma aquisição da IA ou de agentes mal-intencionados cooptarem a tecnologia para meios perigosos, como a vigilância em massa.
“Se você observar o que as grandes empresas estão fazendo agora, elas estão fazendo lobby para obter menos regulamentação sobre IA. Já não há quase nenhuma regulamentação, mas elas querem menos”, disse Hinton. “Temos que fazer com que o público pressione os governos para que façam algo sério a respeito.”
Hinton não é o único padrinho da IA a falar sobre a tecnologia que ajudou a criar. Yoshua Bengio, que ganhou o Prêmio Turing ao lado de Hinton, em 2018, também alertou que a IA poderia ser mais inteligente do que os humanos e potencialmente realizar uma aquisição.
Bengio foi um pouco mais longe ao alertar sobre os perigos da IA, dizendo que se sente culpado por ter ajudado a inventar a aprendizagem profunda, p ois agora ela pode ser mal utilizada de maneiras perigosas.
O impacto da IA no mundo
Apesar de suas preocupações, Hinton disse que também há motivos para ser otimista quanto ao impacto que a IA terá no mundo, apontando a saúde, o desenvolvimento de medicamentos e a educação como áreas em que a IA poderia melhorar a experiência humana.
A IA já mostrou sinais de atingir um nível humano de habilidades de diagnóstico, mas fica aquém em outras áreas.
Na educação, o surgimento de tutores de IA poderia ajudar a personalizar a educação dos alunos e aliviar parte da carga de trabalho dos professores. A OpenAI já fez parceria com várias universidades importantes para dar aos alunos e funcionários acesso a financiamento e ferramentas de IA “de ponta”.
Hinton disse que o surgimento de tutores personalizados de IA seria “uma má notícia para as universidades, mas uma boa notícia para as pessoas”.
Ele também mudou sua posição sobre o deslocamento de empregos devido à IA, dizendo que agora estava preocupado com a possibilidade de as pessoas perderem seus empregos devido à tecnologia e alertou que isso poderia exacerbar a disparidade de riqueza.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
c.2024 Fortune Media IP Limited
Distribuído por The New York Times Licensing Group
