Diogo Cortiz: Precisamos falar do impacto da IA nas crianças

Faz tempo que o tempo de tela se tornou uma preocupação global. Países do mundo inteiro debatem como a quantidade de horas diárias frente aos dispositivos afetam o desenvolvimento infantil e a saúde mental dos pequenos.

Não é por acaso. Em praticamente qualquer ambiente público, vemos crianças com os olhos fixos em tablets e smartphones. Mas é importante entender que, além do tempo de exposição, também importa o tipo de uso que elas fazem desses dispositivos.

Os jogos e as redes sociais são as plataformas que sempre chamam a nossa atenção. Este é um dos motivos de muitos governos estarem criando regulações para determinar usos específicos das redes sociais ou até mesmo restrições mais severas. É o caso da Austrália, que aprovou no fim do ano passado, uma lei inédita que proíbe o uso de redes sociais para adolescentes menores de 16 anos.

No Brasil, o Ministério da Justiça alterou recentemente a classificação indicativa do Instagram, que passou a ser considerado como não recomendado para menores de 16 anos - anteriormente, era indicado a partir de 14 anos.

Essa é uma resposta a uma situação em que a tecnologia já invadiu o cotidiano das crianças. Dados da pesquisa TIC Kids Online 2024, publicada pelo Cetic.br, mostram que 93% da população brasileira de 9 a 17 anos já usam a Internet. Quando quebramos o uso pelos diferentes serviços, temos as seguintes estatísticas:

    71% usam WhatsApp todos os dias ou quase todos os dias;
    66% usam o YouTube;
    60% usam o Instagram;
    50% usam o TikTok;

Mas agora surge um tipo de serviço digital ainda mais sensível: a inteligência artificial.

As crianças já estão usando chatbots com IA (como ChatGPT, Google Gemini, entre outros) para diferentes tarefas. Uma pergunta curiosa sobre um tema ou o uso como apoio ao aprendizado podem ser exemplos de usos positivos. No entanto, há situações mais delicadas, como crianças que passam a se envolver emocionalmente com a IA, tratando-a como um amigo virtual.

O Character.ai é um exemplo desse tipo de plataforma. O serviço é um sucesso entre as crianças por justamente permitir que elas interajam com personagens que simulam conversas humanas. Essa funcionalidade pode até ser justificada como um ambiente de entretenimento, mas não podemos nos esquecer que para um cérebro em formação fica ainda mais difícil traçar a linha do que é real. Um tempo atrás, escrevi uma coluna em que contei o caso de uma mãe que culpou a plataforma pelo suicídio do filho.

Um novo relatório publicado pela Internet Matters traça um diagnóstico da situação e revela os desafios que temos pela frente. Embora o estudo tenha sido conduzido no Reino Unido, seus dados nos ajudam a entender que precisamos debater agora o uso de IA por crianças para criar um futuro que seja ética, emocional e cognitivamente seguro.

Um dos alertas do estudo é a confiança excessiva das crianças nas respostas dos chatbots com IA. Mais da metade (51%) acredita que os conselhos recebidos são verdadeiros. E o mais preocupante: 40% disseram não ver problema em seguir essas orientações, enquanto 36% nem sabem se deveriam se preocupar com isso.

Outro fator ainda mais preocupante é o envolvimento afetivo com a máquina. Uma em cada oito crianças (12%) que usam chatbots com IA utilizam o serviço porque não têm ninguém mais com quem conversar. O número sobe para quase um quarto (23%) entre crianças em situação de vulnerabilidade. Se antes as crianças buscavam refúgio de uma infância solitária em jogos e redes sociais, agora a IA aparece como uma alternativa mais encantadora.

Não podemos repetir com a IA o mesmo erro que cometemos com as redes sociais: deixar que crianças explorem, sozinhas, tecnologias que sequer foram desenhadas para elas. Assim como o relatório da Internet Matters, a UNICEF publicou um documento argumentando que, embora a promessa de benefícios seja grande, não devemos deixar que isso ofusque os riscos para toda uma geração.

Enquanto as regulações ainda engatinham, não podemos esperar. Precisamos debater e agir para mitigar os riscos presentes e futuros, que envolvem todos os atores da sociedade.

As plataformas devem ser cobradas para adotar um design centrado na segurança infantil; as escolas precisam integrar a alfabetização em IA nos currículos; e pais e responsáveis devem mostrar as limitações da tecnologia e, principalmente, a necessidade de buscar apoio real. Proteger a infância na era da IA é agir antes que a negligência vire padrão de um código de computador.