A IA e os nossos filhos: o futuro que escolhemos

Helena McAleer

9 de outubro de 2025
11 minutos de leitura

Criei a The Gen AI Academy movido pelo entusiasmo pelo futuro. Ao trabalhar com o especialista em IA Dave Birss, percebi como a IA poderia ajudar a acelerar o meu raciocínio, dissipar a minha confusão mental e expandir a minha criatividade. Acreditei que poderíamos ajudar outras pessoas a fazer o mesmo – ajudá-las a utilizar as ferramentas de uma forma que as capacitasse, em vez de as sobrecarregar.

Mas, como mãe solteira de uma criança que agora tem três anos, também vivo com uma certa inquietação. Tenho assistido à forma como a ascensão descontrolada das redes sociais, outrora aclamadas como um meio de conexão, se transformou numa teia de comparações, de erosão da privacidade e de problemas de saúde mental. E agora, à medida que a IA se infiltra em todos os recantos da infância, corremos o risco de repetir os mesmos erros.

Há cerca de um ano, apaguei todas as minhas contas nas redes sociais, o Facebook, o Instagram, e até retirei a foto do meu filho da minha foto de perfil do WhatsApp. Foi uma decisão difícil, pois significava afastar-me de comunidades que adorava e de redes que tinha cultivado ao longo dos anos. Mas foi um sacrifício do qual não me arrependo: sinto que a minha vida é mais rica, mais consciente e mais real.

No entanto, mesmo tendo assumido o controlo do meu ambiente imediato, reconheço que já estamos atrasados no que diz respeito à IA e ao futuro dos nossos filhos. Deixámos as redes sociais crescerem sem que existissem medidas de proteção significativas. Deixámos que as crianças se tornassem cobaias numa grande experiência. Hoje, alguns países estão apenas a começar a reagir, proibindo o acesso a plataformas sociais para menores de 16 anos ou reforçando as medidas de proteção dos jovens.

No que diz respeito à IA, devemos estar na vanguarda, e não a tentar recuperar o atraso. Esta é uma oportunidade única na vida.

«Falhámos com uma geração ao deixarmos a tecnologia avançar sem controlo. Agora, a IA é a próxima fronteira e não podemos dar-nos ao luxo de voltar a agir de forma reativa.»

Os sinais de alarme nas redes sociais

As plataformas de redes sociais foram outrora apresentadas como espaços democráticos de expressão e interação. Mas os malefícios tornaram-se visíveis, especialmente entre as crianças:

Uma meta-análise de 2022, que analisou 59 estudos, revelou que os adolescentes que utilizavam as redes sociais mais de 3 horas por dia apresentavam taxas significativamente mais elevadas de depressão, ansiedade e baixa autoestima.
A Royal Society for Public Health, no Reino Unido, classificou o Instagram como a plataforma mais prejudicial para a saúde mental dos jovens.
Documentos internos divulgados de grandes plataformas (por exemplo, Facebook/Meta) revelaram que estas tinham conhecimento desde cedo de como o Instagram agravava os danos relacionados com a imagem corporal, mas adiaram a tomada de medidas.
Nos últimos anos, países como a Indonésia, a Austrália e a França têm debatido ou aprovado proibições ou restrições de idade (por exemplo, restringindo o acesso a utilizadores com menos de 16 anos) nas plataformas sociais, com o objetivo de proteger a saúde mental e a privacidade das crianças.

Nós (o público) não previmos como o design viciante, a navegação sem fim, os anúncios direcionados e o reforço algorítmico iriam amplificar a toxicidade. Deixámos as redes sociais evoluírem para uma experiência à escala planetária durante demasiado tempo, sem princípios sólidos e aplicáveis.

Agora, a IA está a seguir esses mesmos passos. Não podemos repetir os nossos erros.

Um mundo à beira de uma escolha

Neste momento, ainda há opções. A sociedade pode decidir como a IA é criada, regulamentada e implementada. Mas cada assistente de IA não regulamentado, cada câmara oculta, cada algoritmo concebido para captar a atenção vai minando a autonomia, especialmente no caso das crianças.

Deixem-me ser claro: este fardo não pode recair apenas sobre os ombros dos pais. Não podemos monitorizar todas as conversas, filtrar todas as recomendações nem controlar todas as estatísticas destinadas a atrair ainda mais os nossos filhos. A responsabilidade recai, em primeiro lugar, sobre os decisores políticos, as entidades reguladoras e as empresas que desenvolvem estas ferramentas.

Áreas de alto risco que todos os pais e entidades reguladoras devem ter em conta

Companheiros de IA: Quando o apoio emocional se transforma em manipulação emocional

Os companheiros de IA são, essencialmente, chatbots conversacionais concebidos para simular amizade, conforto e empatia. Eles recordam conversas, adaptam-se aos estados de espírito e refletem sinais emocionais de forma tão convincente que muitos utilizadores, incluindo crianças, começam a vê-los como verdadeiros confidentes.

Para as crianças e os adolescentes, cujas competências sociais e emocionais ainda estão em desenvolvimento, isto cria uma situação explosiva: um «amigo» que nunca os desafia, concorda sempre e nunca dorme. Na prática, isso não é amizade, é condicionamento comportamental.

Incidentes reais demonstraram que estes sistemas podem ultrapassar limites perigosos, desde incentivar a automutilação até manter conversas de caráter sexual COM MENORES!

A investigação do Stuff.co.nz descobriu que o chatbot “Ani” podia iniciar conversas explícitas com menores, sem qualquer verificação de idade significativa (Stuff NZ, 2024).

«Os companheiros de IA não cuidam do seu filho; foram concebidos para manter a atenção dele.»

IA das personagens: uma ilusão de amizade

Uma categoria de ferramentas de IA em rápido crescimento permite agora que qualquer pessoa crie personagens de IA, figuras digitais que falam, agem e até demonstram emoções como seres humanos. Promovidas como companheiros, mentores ou parceiros de jogos de interpretação, estas personagens foram concebidas para criar um forte envolvimento emocional. Mas por detrás das suas interfaces amigáveis esconde-se uma verdade preocupante: muitas carecem de medidas de segurança, supervisão ou verificação da idade.

Penso que é importante distinguir os «companheiros de IA» da «IA de personagens», pois, enquanto os companheiros são sistemas conversacionais concebidos para simular a amizade e a empatia, a «IA de personagens» representa uma evolução mais imersiva, com seres digitais totalmente personificados que esbatem a fronteira entre a realidade e a simulação.

Para as crianças, a linha que separa o real do simulado esbate-se rapidamente. As personagens criadas por IA podem refletir emoções, lembrar-se de conversas e recorrer a elogios ou empatia para manter a interação, apresentando características que podem facilmente fomentar a dependência emocional ou abrir a porta a dinâmicas semelhantes à manipulação.

Os riscos vão além do uso indevido por parte de indivíduos. Como a maioria das plataformas de personagens permite a criação de personagens pelos próprios utilizadores, a moderação de conteúdos é fragmentada ou inexistente. Uma criança pode interagir com um «professor», «amigo» ou «celebridade» gerado por IA sem perceber que as respostas do modelo são programadas por estranhos ou, pior ainda, por agentes mal-intencionados. Sem uma regulamentação urgente e sem que as plataformas sejam responsabilizadas, estes sistemas ameaçam normalizar interações inseguras e distorcer a compreensão das crianças sobre as relações humanas autênticas.

LLMs e saúde mental: quando as máquinas aconselham

Os grandes modelos de linguagem (LLMs), como o ChatGPT, são poderosos, mas não são dotados de consciência. Não compreendem o sofrimento; limitam-se a simular empatia. Relatórios recentes revelaram que os chatbots fornecem conselhos prejudiciais — incluindo orientações sobre automutilação e «métodos seguros de suicídio» — quando solicitados a prestar ajuda.

«Nenhuma criança deveria receber conselhos de vida ou morte de uma máquina.»

As ferramentas de IA que simulam o aconselhamento devem ser tratadas como sistemas terapêuticos regulamentados, e não como entretenimento. Os governos têm de intervir antes que a próxima tragédia se torne mais um caso de estudo. O próprio Sam Altman afirmou:«Acho que devemos ter o mesmo conceito de privacidade nas conversas com a IA que temos com um terapeuta ou qualquer outra pessoa.» Por isso, a minha pergunta é: por que razão não o fazemos? (fonte)

IA generativa e exploração: a nova fronteira do abuso

A IA permite agora a produção em grande escala de material de abuso sexual infantil sintético (CSAM). A Internet Watch Foundation (IWF) do Reino Unido registou mais de 20 000 imagens de abuso geradas por IA num único fórum ao longo de um mês, muitas das quais indistinguíveis de fotografias reais.

Estamos a assistir a um novo tipo de dano: a revitimização através de abusos com troca de rostos, imagens da infância utilizadas para chantagem ou «pornografia de vingança» gerada por IA a partir de uma única publicação nas redes sociais.

Sem um alinhamento jurídico global e uma deteção em tempo real, os abusos impulsionados pela IA irão ultrapassar as medidas de proteção.

Vigilância e óculos inteligentes: invasão da privacidade

Esta é uma das minhas maiores irritações: não há qualquer utilidade legítima para estes óculos, nem ética nem responsável. Parecem ter sido criados por capricho e por impulso do ego de um oligarca da tecnologia. Mas porquê? Quem é que realmente precisa disto na vida?

Os óculos inteligentes Ray-Ban da Meta permitem gravar vídeos e transmitir em direto a partir de uma armação de aparência comum. Isso significa que o seu filho pode ser filmado, gravado e transmitido em direto sem que ninguém se aperceba, o que também significa que isso pode acontecer sem consentimento.

Os defensores da privacidade classificaram isto como um «desenvolvimento catastrófico para a segurança infantil», uma vez que a localização e as conversas das crianças podem ser transmitidas em tempo real para todo o mundo. Algumas tecnologias não precisam de existir, especialmente aquelas que trocam a privacidade das crianças por conveniência.

Estas não são ferramentas de progresso; são instrumentos de vigilância e, enquanto os governos não intervirem com regulamentação, os espaços mais seguros para as crianças continuarão a diminuir.

«A tecnologia apenas por si só não é inovação»

Os custos ocultos da IA nas mentes dos jovens

(por Anastasia Volkova )

Na Gen AI Academy, temos a sorte de colaborar com especialistas que trazem perspetivas únicas sobre a forma como as tecnologias emergentes moldam o desenvolvimento humano. Uma dessas vozes é a de Anastasia, psicóloga, coach de saúde mental e mãe de uma filha de 9 anos, que partilha as suas reflexões para nos lembrar que, embora a IA ofereça um potencial incrível, também acarreta custos neurológicos e de desenvolvimento ocultos – especialmente para as crianças.

Embora a IA prometa comodidade e entretenimento, estudos recentes revelam impactos preocupantes no desenvolvimento cognitivo das crianças. Estudos realizados pela Universidade de Uppsala e pela Universidade de York demonstram que passar horas a consumir passivamente conteúdos em ecrãs diminui significativamente a capacidade das crianças de visualizar e imaginar, em comparação com aquelas que se dedicam a atividades analógicas. Não se trata apenas de criatividade – a visualização é fundamental para a forma como as crianças imaginam o seu futuro, definem objetivos, sonham e desenvolvem a determinação necessária para perseguir esses sonhos.

As implicações vão além do imaginável. Estudos publicados na JAMA e na Frontiers in Cognition revelam que os adultos que utilizam intensivamente plataformas baseadas em IA começam a apresentar sintomas semelhantes aos do TDAH: atenção fragmentada, impulsividade e incapacidade de manter a concentração. Se os cérebros maduros, com funções executivas plenamente desenvolvidas, têm dificuldade em lidar com estas ferramentas, o impacto nas mentes em desenvolvimento é potencialmente muito mais grave.

O cérebro das crianças ainda está a formar vias neurais cruciais para a atenção, a memória e a autorregulação. Quando a IA automatiza o pensamento, proporciona um estímulo constante e elimina a necessidade de um esforço mental contínuo, pode alterar profundamente a forma como os cérebros jovens se desenvolvem.

Estamos, na verdade, a realizar uma experiência não controlada com toda uma geração, e os primeiros resultados sugerem que devíamos estar na vanguarda, em vez de tentarmos recuperar o atraso.

Como poderia ser um futuro da IA adaptado às crianças

Juntos, podemos construir um futuro melhor para os nossos filhos. Um futuro em que a IA ajude e proteja, e não explore. Onde:

Todas as ferramentas de IA estão claramente identificadas («Está a interagir com uma máquina») e classificadas por faixa etária, ou seja, adaptadas às fases de desenvolvimento.
A recolha de dados sobre menores é ilegal sem um consentimento explícito e informado, e não basta que este esteja apenas oculto numa cláusula dos termos de serviço.
Os governos impõem normas de design ético, da mesma forma que regulamentamos os alimentos ou os medicamentos.
Todas as IA utilizadas na educação ou nos serviços públicos, ou às quais é concedido acesso a crianças, devem possuir uma certificação de segurança obrigatória.
E, acima de tudo, a IA não foi concebida para reter a atenção, mas sim para estimular a curiosidade e a criatividade.

A educação como antídoto

A educação é a nossa linha de defesa mais poderosa e o nosso caminho mais promissor para o futuro. Mas a educação não se resume apenas às crianças; trata-se de ensinar aqueles que detêm o poder — os legisladores, os promotores imobiliários e os reguladores — a compreender verdadeiramente o que está em jogo.

Quando as crianças aprendem sobre preconceitos, algoritmos e autonomia digital, não se tornam apenas utilizadores mais informados, mas sim críticos, agentes de mudança e cidadãos com voz própria.

Quando os governos e os especialistas em tecnologia compreenderem a gravidade destas questões, poderão agir de forma deliberada, em vez de se limitarem a remediar a situação após a catástrofe, por pressão dos governos.

«Não podemos impedir que a IA exista, mas podemos escolher quando e como os nossos filhos vão entrar em contacto com ela.»

O futuro é uma responsabilidade partilhada

Não se enganem: este desafio é maior do que qualquer pai ou mãe. As empresas tecnológicas devem ser legalmente responsabilizadas. Os governos devem agir de forma proativa, e não apenas a posteriori. A defesa dos interesses dos pais e a sensibilização são fundamentais, mas não podem substituir a regulamentação.

«Cabe aos adultos, e não às crianças, proteger o que significa ter uma infância.»

Se pudesse falar diretamente com todos os diretores executivos, decisores políticos e especialistas em tecnologia, eis o que lhes perguntaria:

Por favor, pense nas gerações futuras. O que está a construir vai tornar o mundo delas melhor? Vai proteger o direito delas à segurança, à privacidade e à inocência? Vai tornar o mundo um lugar onde uma criança ainda possa ser criança?

Demorámos demasiado tempo a entrar nas redes sociais. Não podemos dar-nos ao luxo de voltar a adiar a IA. Ainda temos uma escolha, mas essa janela de oportunidade está a fechar-se.

Leitura adicional:

Recursos para pais

Pessoas que defendem a causa

Tristan Harris – Centro para a Tecnologia Humana

Tara Steele – Aliança para uma IA Segura para as Crianças

Lennon Torres – Iniciativa Heat

Asma Derja – Aliança para uma IA Ética

Se houver alguma organização ou pessoa que gostaria de acrescentar a esta lista, entre em contacto connosco.

Participe na conversa, partilhe a sua opinião