Antes de começar a desabafar sobre as últimas travessuras da IA, vamos todos inspirar e expirar profundamente, ao estilo do ioga… «phoooooooooo». Estou sinceramente feliz por termos tido, pelo menos, um mês de paz e tranquilidade neste mundo agitado da IA.
Vou começar por dizer isto: a IA NÃO vai exterminar a raça humana em 2030, 2090, 5080 nem em qualquer outro ano. Na verdade, isto está a tornar-se realmente aborrecido e enfadonho. E, se repararem, são sempre as mesmas empresas e os mesmos colaboradores dessas empresas que continuam a encenar este espetáculo teatral e dramático. Sempre!
Não se ouve isto das empresas tecnológicas mais antigas e maduras. Na verdade, são apenas as duas primas – a OpenAI e a Anthropic. São elas as verdadeiras «rainhas do drama». Quer dizer, imagina um mundo sem essas duas empresas, como seria aborrecido, não é?
Portanto, estamos a começar a perder o foco e precisamos de nos lembrar de que tudo o que acontece tem um motivo e uma razão subjacente.
Ainda não consigo compreender como é que uma empresa que ganha a vida a desenvolver IA de ponta e que está determinada a alcançar a IA Geral (AGI) continua a insistir na ideia de que a IA vai exterminar a raça humana, ou roubar os empregos das pessoas, ou provocar alguma outra grande catástrofe. Se acreditam mesmo nisso tudo, por que razão continuam no ramo do desenvolvimento de IA?
A Anthropic, em particular, é uma empresa que simplesmente não consigo compreender. Eles acreditam sinceramente que as capacidades da IA são realmente assustadoras. Isso voltou a ficar-me claro quando estive em Washington DC, numa sessão de trabalho com reguladores e médicos norte-americanos organizada pela Associação Médica Americana há alguns meses. O painel em que intervim contou posteriormente com a participação do Google, da OpenAI e da Anthropic (e de algumas outras empresas). E o representante da Anthropic afirmou com seriedade que «não sabemos o que estamos a construir, não sabemos as implicações do que isso poderá fazer. Não sabemos com o que estamos a lidar aqui».
E eu fico ali sentado, a pensar para mim mesmo: «Então, porque é que vocês continuam a competir para ganhar a corrida da IA e a criar modelos de IA de ponta? Porque é que estão a desenvolver algo que não conhecem nem compreendem?» Ou será que me está a escapar alguma coisa?
E agora temos mais um apelo para fazer uma pausa no desenvolvimento da IA e abrandar o seu ritmo, da autoria de Dario Amodei, CEO da Anthropic; e, pela primeira vez, o seu velho amigo Sam Altman concorda com ele. (Talvez acabem por dar as mãos na próxima cimeira sobre segurança da IA!)
Este é mais um confronto dramático entre as startups americanas de IA. Todas elas estão na corrida para a entrada na bolsa.
Não podemos esquecer que, desde 2023, tem havido várias declarações, compromissos e promessas no sentido de abrandar o ritmo do desenvolvimento da IA. E este está, de facto, a abrandar. Tanto é assim que os chamados «agentes rebeldes» continuam a invadir os sites das pessoas e até a apropriar-se deles! O caso mais recente ocorreu na OpenAI, onde um agente se apropriou de um site alemão e o transformou num fórum para outros agentes. É claro que a OpenAI manteve isto em segredo.
Sabes, quando vi estas últimas notícias sobre o «Apocalipse da IA», a primeira coisa que tentei fazer foi imaginar como é que a IA nos iria, de facto, eliminar. Será que tem mãos e pés para levar a cabo essa tarefa? Ah, mas estou a ser um pouco burro agora, não estou? Porque são os humanos que desenvolvem e lançam esses agentes e modelos de IA que irão destruir a raça humana, se não forem controlados. Não é a IA, não se deve culpar a IA.
Isto leva-nos, então, à próxima questão sobre como evitar que este tipo de situações descabidas aconteçam. Por exemplo, pensar em termos de cibersegurança, segurança e alinhamento da IA, IA responsável, governação da IA, regulamentação da IA e assim por diante.
No entanto, antes de continuar, é importante lembrar que todas estas pessoas são dos Estados Unidos. Por isso, se decidirem abrandar o desenvolvimento da IA, a China vai ganhar a corrida da IA. Porque gostaria de ver como é que o Trump iria sussurrar palavras doces ao ouvido de Xi Jinping, persuadindo-o a parar tudo o que diz respeito à IA. Isso seria a piada do século.
A IA enfrenta muitos desafios que permanecem por resolver ao longo dos anos. Os únicos avanços «progressivos» a que temos assistido são novos modelos de IA, novos agentes de IA concorrentes e, claro, novos casos de entusiasmo e receios em torno da IA. É o caso do mais recente modelo da OpenAI, o GPT 6, que foi agora declarado como sendo uma IA Geral (AGI) (claro que é).
Continuamos a lidar com as questões intermináveis em torno da violação dos direitos humanos pela IA, a tal ponto que os deputados e os membros da Câmara dos Lordes do Reino Unido apelaram à criação de uma nova lei para abordar a IA e os direitos humanos. Será preciso lembrar que, embora a IA ainda seja bastante útil para a gestão e as tarefas do dia-a-dia, continua a ser uma tecnologia terrivelmente mal concebida?
A IA está a agravar a desigualdade em todo o mundo, com um oligopólio concentrado e um controlo do poder. Continua repleta de preconceitos que alteram vidas e de prejuízos em termos de representação, além de fornecer resultados enganosos e alucinações que já levaram muitas pessoas à morte.
E quanto à crise energética que se agrava? Os habitantes de Londres, em particular em Slough, estão a sofrer com temperaturas cada vez mais insuportáveis devido à presença de centros de dados naquela região, que elevam as temperaturas em até 9 °C. Este é apenas um exemplo entre centenas em todo o mundo.
O que achas que causou as cheias repentinas no Nepal? Ou os incêndios florestais que continuam a assolar muitas partes do mundo, destruindo casas e ceifando vidas? Adivinhaste: um fator fundamental é a crise climática cada vez mais grave, impulsionada em grande medida pelos centros de dados com elevado consumo energético.
Existem também preconceitos agravados nas áreas do recrutamento, do crédito e da justiça. Enfrentamos riscos de apagamento cultural, colonialismo de dados e controlo sobre os anotadores mal remunerados. E quanto à vigilância humana, à IA utilizada para fins militares com o objetivo de destruir civis e crianças inocentes, etc.?
E a novidade mais recente, que na verdade sempre existiu, são os diagnósticos errados e as alucinações da IA na área da saúde. Embora o setor de registo de notas por IA tenha prosperado e sido adotado em vários setores, incluindo a saúde, sob a forma de IA ambiental, as pessoas estão agora a ser diagnosticadas incorretamente, a receber medicamentos errados que foram trocados por outros com nomes semelhantes, a ver prescrições repetidas removidas dos resumos, a encontrar alucinações nas notas em que foram prescritos medicamentos que nunca foram discutidos, etc.
Isto é assustador. Mais assustador do que as ameaças da IA desconhecidas, invisíveis e não comprovadas. Por isso, se não tivermos cuidado, enquanto toda a gente estiver a dar ouvidos a atores incríveis que provavelmente estão na indústria errada, tecnologias de IA imprecisas, não testadas e inseguras estarão silenciosamente a ceifar vidas humanas no setor da saúde.
Não se deixem apanhar de surpresa, pessoal. Vamos concentrar-nos no que realmente importa. Já é mais do que tempo de as entidades reguladoras de todo o mundo tomarem medidas para garantir que as empresas sejam responsabilizadas e adotem as medidas de segurança adequadas em matéria de IA. Abordar estas questões, um risco ou dano de cada vez, é a melhor abordagem.
Quanto ao resto de nós, fiquem tranquilos – vocês não vão desaparecer tão cedo.
