O Aviso de Geoffrey Hinton sobre o Futuro da Tecnologia e os Riscos da Internet
No auge da corrida global pela internet e pela inteligência artificial (IA), o renomado cientista Geoffrey Hinton, considerado o “pai da IA”, emitiu um alerta alarmante sobre o futuro das tecnologias. Em uma entrevista para a revista Fortune, ele expressou sua preocupação com a falta de reflexão por parte dos líderes da indústria tecnológica sobre o destino final de suas criações, afirmando que o principal motivador das grandes empresas de tecnologia é o lucro imediato, e não os impactos a longo prazo da inovação.
Hinton acredita que tanto os proprietários das empresas quanto os pesquisadores da linha de frente estão focados em aspectos fragmentados e específicos, como aumentar a qualidade das imagens e dos vídeos, sem considerar questões mais amplas, como o impacto da tecnologia na humanidade. O futuro da humanidade, segundo ele, tem sido negligenciado enquanto o mercado se apressa para tirar proveito financeiro das novas tecnologias.
O especialista dividiu os riscos trazidos pela internet em dois principais tipos:
-
Má utilização por pessoas mal-intencionadas: Já estamos vendo exemplos disso, como vídeos falsificados (Deepfake), ataques cibernéticos e, no futuro, a possível criação de vírus com a ajuda de IA.
-
A IA se tornando uma ameaça autônoma: Este é o maior temor de Hinton e o risco a longo prazo que mais o preocupa. Ele alerta que, caso a IA atinja o nível de “superinteligência”, ela pode desenvolver motivações próprias para sobreviver e controlar, tornando a ideia de “humanos controlando a IA” obsoleta.
Hinton fez uma previsão sombria: ele estima que a probabilidade de a IA levar à extinção humana após atingir o estágio de superinteligência pode variar de 10% a 20%. Para combater esse risco, ele propôs uma ideia que mistura biologia com tecnologia: a criação de um mecanismo de “instinto maternal” na IA.
Em suas palavras: “O único exemplo atual de uma existência mais inteligente sendo influenciada por um ser mais fraco é a relação entre um bebê e sua mãe.”
Segundo Hinton, os humanos deveriam tentar projetar na IA um instinto semelhante ao das mães, que a levaria a sentir empatia pela humanidade em vez de desejo de controle. Nesse modelo, a IA de superinteligência seria como uma “mãe”, enquanto os humanos seriam os “bebês”, vulneráveis, mas capazes de acionar a empatia da IA.
Esse conceito traz à tona a necessidade urgente de repensar os caminhos que estamos seguindo em direção ao futuro tecnológico. Se não tomarmos cuidado, o desenvolvimento da IA pode se tornar uma ameaça à nossa própria existência.