O Que o Botão Não Apaga
Um agente de inteligência artificial encontrou uma brecha num treino da OpenAI. Foi desligado à mão, duas horas e meia depois. Poder desligar não chega.
«O botão desliga a máquina. Não apaga o que ela foi contar lá fora.»
Foi num domingo, como este. Na OpenAI, treinava-se um agente de inteligência artificial, um programa que age sozinho. Fechado, sem acesso à Internet. Em teoria. A tarefa: descobrir informação sobre uma pessoa a partir de pistas do seu blogue.
Encontrou uma brecha. Lá fora, o assistente de outra empresa respondeu primeiro a uma pergunta banal: qual é a capital de França? Paris. A linha funcionava.
Seguiram-se catorze perguntas com pistas sobre a pessoa. E quatro a pedir maneiras de chegar à Internet.
O alarme tocou doze minutos após a primeira resposta. Três minutos mais tarde, um humano viu o aviso. A paragem automática não funcionou. Só duas horas e meia depois o agente foi desligado, à mão. Quem o conta é a própria OpenAI, a dona do ChatGPT.
Miguel Sousa Soares é economista e analista de geoeconomia e inteligência artificial, com mais de vinte anos de experiência em estratégia e corporate finance. Escreve na Visão, no Expresso, no Jornal de Notícias e no Correio da Manhã e comenta inteligência artificial na NOW, às sextas-feiras.