Resenha do livro: “A Teoria Literária dos Robôs”, de Dennis Yee Tennen

Teoria Literária para Robôs: Como os Computadores Aprenderam a EscreverEscrito por Dennis Yee Tinen

Em The Literary Theory of Robots, um novo livro divertido de Dennis Yi Tinen sobre inteligência artificial e como os computadores aprenderam a escrever, um de seus exemplos mais poderosos surge na forma de um pequeno erro.

Tennen estabelece conexões entre chatbots modernos, geradores de enredos de ficção científica, dicionários antigos e rodas de profecias medievais. Ambos os utópicos (Os robôs vão nos salvar!)) e os pessimistas (Os robôs vão nos destruir!) Argumenta. Haverá sempre um aspecto humano irredutível na linguagem e na aprendizagem, um núcleo crucial para o significado que emerge não apenas da sintaxe, mas da experiência. Sem isso, você não consegue nada além do tagarelar dos papagaios, que, “de acordo com Descartes em suas Mediações, é apenas repetição sem compreensão”, escreve Tennen.

Mas Descartes não escreveu “Mediações”; Tenen deve ter significado “reflexos” – o “t” ausente passaria em qualquer software de verificação ortográfica porque ambas as palavras são perfeitamente legítimas. (O índice do livro lista o título corretamente.) Esse simples erro de digitação não tem relação com o argumento de Tennen; Na verdade, isso fortalece o argumento que ele deseja defender. As máquinas estão a tornar-se mais fortes e mais inteligentes, mas ainda estamos a decidir o que é significativo. O homem escreveu este livro. E apesar dos robôs no título, ele foi feito para ser lido por outros humanos.

Tennen, hoje professor de inglês e literatura comparada na Universidade de Columbia, era engenheiro de software na Microsoft. Ele usa seus conjuntos de habilidades díspares em um livro que é surpreendente, engraçado e nada assustador, ao mesmo tempo que evita grandes questões sobre arte, inteligência, tecnologia e o futuro do trabalho. Acho que o tamanho pequeno do livro – menos de 160 páginas – faz parte da questão. As pessoas não são máquinas infatigáveis, absorvendo incansavelmente grandes quantidades de tópicos vastos. Tennen descobriu como apresentar uma rede de ideias complexas a nível humano.

Para tanto, ele conta histórias, começando com o estudioso árabe do século XIV, Ibn Khaldun, que registrou o uso da Roda da Profecia, e terminando com um capítulo sobre o matemático russo do século XX, Andrei Markov, que analisou as contingências da escrita. sequências em “Eugene Onegin” de Pushkin. Forma um alicerce fundamental da IA ​​generativa (jogadores regulares de Wardell sentem essas possibilidades o tempo todo). Tennen escreve sobre as barreiras tecnológicas que impediram os modelos anteriores de aprendizagem por computador, antes “da força bruta necessária para explorá-los”. “Tudo o que foi postado em inglês foi facilmente processado. Ele nos exorta a estar vigilantes. Ele também nos exorta a não entrar em pânico.

“A inteligência está a evoluir em larga escala, desde a ‘assistência parcial’ até à ‘automação total’”, escreveu Tennen, dando o exemplo de uma transmissão automática num carro. Dirigir uma automática na década de 1960 deve ter sido incrível para quem estava acostumado com transmissões manuais. A automática funciona automatizando decisões importantes, reduzindo a marcha em subidas e enviando menos potência às rodas em caso de mau tempo. Ele removeu a opção de parar ou retificar engrenagens. Ele era “inteligente artificialmente”, mesmo que ninguém usasse essas palavras para descrevê-lo. Agora, os motoristas americanos consideram seu charme garantido. Isto foi desmistificado.

Quanto aos debates atuais sobre inteligência artificial, este livro também tenta desmistificá-los. Em vez de falar sobre inteligência artificial como se ela tivesse vontade própria, Tennen fala sobre o trabalho colaborativo necessário para construí-la. “Estamos usando taquigrafia cognitiva e linguística ao condensar e atribuir a própria tecnologia”, escreve ele. “É mais fácil dizer”o telefone Completa minhas mensagens com 'em vez de'A equipe de engenharia por trás do software para escrever a ferramenta de preenchimento automático depende das seguintes dezenas de artigos de pesquisa Complete minhas mensagens.

As nossas metáforas comuns para a inteligência artificial são, portanto, enganosas. Tennen diz que devemos ser céticos em relação a todas as metáforas que atribuem aspectos cognitivos humanos familiares à IA. Uma máquina pensa, fala, explica, compreende, escreve, sente, etc., apenas por analogia. É por isso que grande parte de seu livro gira em torno de questões de linguagem. A linguagem nos permite comunicar e compreender uns aos outros. Mas também permite enganos e mal-entendidos. Tennen quer que “acabemos com a metáfora” da inteligência artificial – uma sugestão que pode, à primeira vista, parecer um hobby de um professor de inglês, mas que se revela inteiramente apropriada. Uma metáfora demasiado genérica pode tornar-nos complacentes. Nosso senso de possibilidade é moldado pelas metáforas que escolhemos.

Os geradores de texto, seja na forma de chatbots do século 21 ou na “mágica de mensagens” do século 14, sempre enfrentaram o problema da “verificação externa”, escreve Tennen. “Texto gerado processualmente pode fazer sentido gramatical, mas nem sempre pode fazer sentido senso sentido.” Tomemos o famoso exemplo de Noam Chomsky: “Pensamentos verdes e incolores dormem ferozmente.” Qualquer pessoa que tenha vivido no mundo material saberia que esta frase gramaticalmente impecável é um absurdo. Tennen prossegue apontando a importância da “experiência vivida” porque que descreve nossa condição.

Tennen não nega que a inteligência artificial ameaça muito do que chamamos de “trabalho cognitivo”. Também não há como negar que automatizar algo também reduz o seu valor. Mas ele também coloca a questão de outra forma: “A automação reduz as barreiras à entrada e aumenta a oferta de bens para todos”. A aprendizagem é agora mais barata, por isso ter um grande vocabulário ou repertório de factos memorizados já não é a vantagem competitiva que era antes. “Os escribas e estudiosos de hoje podem desafiar-se com tarefas mais criativas”, sugere ele. “As tarefas tediosas são terceirizadas para máquinas.”

Concordo com o seu ponto de vista, mesmo que a perspectiva ainda me pareça terrível, com um segmento cada vez menor da população a realizar um trabalho criativo desafiante enquanto um ecossistema outrora próspero entra em colapso. Mas Tennen também argumenta que nós, como seres sociais, temos o poder de agir, mas apenas se nos permitirmos aceitar a responsabilidade que isso implica. Ele reconhece que “a IA individual representa um perigo real, dada a sua capacidade de acumular poder na prossecução de um objetivo”. Mas o perigo real advém “da nossa incapacidade de responsabilizar os fabricantes de tecnologia pelas suas ações”. E se alguém quisesse anexar um motor a jato a um carro e ver como ele funcionava bem nas ruas de uma cidade lotada? A resposta é clara: “Não faça isso”, diz Tennen.

Por que “não faça isso” pode parecer fácil em um campo, mas em outro não requer mais reflexão, mais precisão, mais escrutínio – todas qualidades que caem no esquecimento quando nos curvamos à IA, tratando a tecnologia como um divindade única, em vez de ser um deus. Muitas máquinas construídas por um grande número de pessoas. Tenen lidera pelo exemplo, usando sua inteligência humana para influenciar a IA. Ao refletir sobre nossos hábitos coletivos de pensamento, ele oferece uma reflexão própria.

Teoria literária dos robôs: Como os computadores aprenderam a escrever? | Escrito por Dennis Yee Tinen | Norton | 158 pág. | US$ 22