Assista: o padrinho da IA, Geoffrey Hinton, conta à BBC sobre os perigos da IA quando ele deixa o Google
Um homem amplamente visto como o padrinho da inteligência artificial (IA) deixou o emprego, alertando sobre os perigos crescentes dos desenvolvimentos no campo.
Jeffrey Hinton, 75, anunciou sua demissão do Google em um comunicado ao New York Times, dizendo que agora se arrepende de seu trabalho.
Ele disse à BBC que alguns dos riscos do chatbot eram “muito assustadores”.
“No momento, eles não são mais espertos do que nós, pelo que sei. Mas acho que em breve poderão ser.”
A pesquisa pioneira do Dr. Hinton sobre aprendizado profundo e redes neurais abriu o caminho para os atuais sistemas de IA, como o ChatGPT.
Mas um psicólogo cognitivo britânico-canadense e cientista da computação disse à BBC que um chatbot poderia em breve ultrapassar o nível de informação mantido pelo cérebro humano.
“No momento, o que estamos vendo é que coisas como GPT-4 superam uma pessoa na quantidade de conhecimento geral que ela tem e superam muito uma pessoa. Em termos de raciocínio, não é muito bom, mas faz simples pensamento.
“E, dada a taxa de progresso, esperamos que as coisas melhorem muito rapidamente. Portanto, temos que nos preocupar com isso.”
Em um artigo do New York Times, o Dr. Hinton se referiu a “maus atores” que tentariam usar IA para “coisas ruins”.
Quando questionado pela BBC para elaborar sobre isso, ele respondeu: “Este é apenas um cenário de pior caso, um tipo de cenário de pesadelo.
“Você pode imaginar, por exemplo, alguns atores ruins como [Russian President Vladimir] Putin decidiu dar aos bots a capacidade de criar seus próprios sub-alvos.
Em última análise, isso poderia “criar sub-objetivos como ‘preciso ficar mais poderoso'”, alertou o cientista.
Ele acrescentou: “Cheguei à conclusão de que o tipo de inteligência que desenvolvemos é muito diferente da inteligência que temos.
“Somos sistemas biológicos e estes são sistemas digitais.A grande diferença é que com os sistemas digitais você tem muitas cópias do mesmo conjunto de pesos, do mesmo modelo do mundo.
“E todos esses clones podem aprender separadamente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10.000 pessoas e sempre que alguém aprendesse algo, todos saberiam automaticamente. E assim esses chatbots podem saber muito mais do que qualquer pessoa.”
Dr. Hinton também disse que havia várias outras razões para deixar seu emprego.
“Uma é, eu tenho 75 anos. Então é hora de me aposentar. Outra é, eu realmente quero dizer algumas coisas boas sobre o Google. Seria mais confiável se eu não trabalhasse para o Google.”
Ele enfatizou que não queria criticar o Google e que a gigante da tecnologia era “muito responsável”.
Em um comunicado, o cientista-chefe do Google, Jeff Dean, disse: “Continuamos comprometidos com uma abordagem responsável da IA. Estamos constantemente aprendendo a entender os riscos emergentes e, ao mesmo tempo, inovando com ousadia”.
Assista: O que é inteligência artificial?