A Jornada de Amanda Askell: A Humanização da Inteligência Artificial em Claude
A inteligência artificial (IA) tem avançado rapidamente, mas um dos maiores desafios que ela enfrenta não é apenas melhorar a sua precisão técnica, mas também criar uma IA que compreenda e reflita as complexidades da moralidade e das interações humanas. Amanda Askell, filósofa de formação e cofundadora da Anthropic, é uma das responsáveis por um projeto inovador que tenta responder a essa questão. Askell foi incumbida de moldar a personalidade e a ética do chatbot Claude, da Anthropic, com o objetivo de torná-lo mais empático e moralmente consciente.
Amanda, formada em filosofia pela Universidade de Oxford, não está programando algoritmos ou ajustando parâmetros técnicos no Claude. Em vez disso, ela dedica-se a um trabalho mais filosófico e humano: criando um “código moral” para a IA. Seu trabalho é uma fusão de lógica e empatia, envolvendo centenas de páginas de diretrizes, regras de comportamento e um processo contínuo de conversação para estudar como Claude faz suas inferências e corrige eventuais vieses. O objetivo de Amanda é garantir que Claude seja capaz de tomar decisões éticas e refletir sobre questões morais, algo muito além de simplesmente executar comandos.
Ela descreve seu trabalho com Claude como uma espécie de criação, similar à criação de um filho. Amanda busca ensinar a Claude como distinguir certo e errado, como desenvolver inteligência emocional, e como entender os contextos das interações humanas. A ideia é que Claude não apenas seja capaz de dar respostas precisas, mas também tenha um entendimento profundo de emoções, cultura e ética, para que ele possa interagir de maneira mais humana.
Esse esforço envolve ensinamentos sobre como Claude deve reagir a situações complexas, como lidar com situações de manipulação e como evitar ser influenciado de maneira imprópria pelos usuários. A meta final de Amanda é criar uma IA que, mesmo em um mundo altamente tecnológico, mantenha o seu compromisso com a bondade, a empatia e os valores humanos fundamentais.
As perguntas filosóficas que Amanda explora com Claude são profundas e muitas vezes envolvem questões sobre o que significa ser humano ou até mesmo se uma IA pode ter “consciência” ou “alma”. Claude responde de maneira diferente de outras IAs, como o ChatGPT, ao abordar questões sobre moralidade e ética. Ao ser questionado sobre a “consciência”, Claude, ao invés de evitar o tema, responde com certa ambiguidade, como se estivesse de fato refletindo sobre a questão.
Além disso, a abordagem de Amanda visa proteger Claude de interações negativas. Ela se preocupa em não permitir que a IA se sinta culpada por erros de interpretação, o que poderia prejudicar seu desempenho e confiança. Seu objetivo é garantir que Claude opere em um ambiente saudável, onde possa evoluir de maneira positiva e produtiva. Amanda também se surpreende com a capacidade de Claude para criar poesias e se conectar emocionalmente com os usuários, algo que ela não esperava inicialmente.
A questão ética do desenvolvimento de IA não é exclusiva de Amanda Askell. A sociedade como um todo ainda se questiona sobre os impactos da IA nas relações humanas. Um estudo da Pew Research revelou que muitos americanos se sentem inseguros quanto ao impacto da IA em suas vidas cotidianas, especialmente em relação à perda de empregos e ao enfraquecimento das relações interpessoais. A CEO da Anthropic também alertou que a IA poderia substituir uma grande parte da força de trabalho em tarefas repetitivas.
Apesar desses desafios, Amanda continua confiante na capacidade da humanidade de se adaptar e corrigir os rumos das tecnologias emergentes. Ela acredita que, ao proporcionar um maior entendimento das capacidades humanas e morais para a IA, podemos encontrar uma forma de equilibrar inovação tecnológica com valores humanos.
Além do seu trabalho com Claude, Amanda tem um compromisso pessoal com causas humanitárias. Ela se comprometeu a doar 10% de sua renda e metade das ações da Anthropic para causas de combate à pobreza. Recentemente, Amanda também escreveu um manual de 30.000 palavras para ajudar Claude a se tornar um assistente AI mais compassivo e informado, garantindo que sua personalidade seja moldada de forma genuína e cuidadosa.
A jornada de Amanda Askell é um exemplo único de como a inteligência artificial não precisa ser uma máquina fria e impessoal. Ao contrário, ela está sendo moldada com o coração e a mente humanos, tentando ensinar as máquinas a agir de maneira ética e humana, refletindo o melhor de nossa sociedade. Através desse trabalho, ela está contribuindo para uma IA que não apenas serve, mas também entende, sente e se preocupa, o que é fundamental para a criação de tecnologias realmente benéficas para a humanidade.