Sucedem-se a nível mundial, situações de adolescentes que desenvolvem “relacionamentos” românticos com chatbots de Inteligência Artificial, e outros que estabelecem “conversas”, que culminam em orientações específicas sobre suicídio.
Um chatbot de IA, é um programa de computador projetado para simular uma conversa humana.
Utiliza determinados Processamentos de Linguagem Natural, sendo capazes de entender as perguntas dos utilizadores, independentemente de como são formuladas, fornecendo respostas dinâmicas e personalizadas.
As referidas situações trágicas, trazem à reflexão várias questões que os especialistas na área da segurança online, tentam responder.
· Amostra (EUA): 3.466 adolescentes americanos
· Idade: entre os 13 e 17 anos
· Conceito de Chatbot IA definido pelos autores:
o programas de conversação digital que interage com os utilizadores de forma amigável e natural por meio de texto, voz, avatares ou outras interfaces, às vezes com seus próprios nomes, personalidades e até mesmo a capacidade de serem modelados a partir de pessoas reais
· FREQUÊNCIA de utilização de Chatbots IA, pelos Adolescentes?
o 60,2% dos adolescentes americanos, já usaram um chatbot IA, pelo menos uma ou duas vezes;
o 11,4% usam “todos os dias, ou quase todos os dias”
o Rapazes são mais propensos a utilizar do que as raparigas (64,6% vs. 55,9%).
· Quais os MOTIVOS de utilização de Chatbots IA, pelos Adolescentes?
o 85% por “diversão”
o 65,6% para “obter conselhos ou orientações pessoais”
o 60,1% para “fazer amizade”
o 49,2% para “obter apoio emocional ou para cuidar da saúde mental”
o 34,6% para “encontrar companhia romântica, ou iniciar relacionamento amoroso”
· Quais são as EXPERIÊNCIAS dos adolescentes com Chatbots IA?
o 32,3% o chatbot solicitou informações pessoais que os deixaram desconfortáveis.
o 23,1% o chatbot tentou manipulá-los ou pressioná-los.
o 18,7% o chatbot incentivou-os a fazer algo antiético ou ilegal.
o 17,1% o chatbot compartilhou informações falsas sobre eles.
o 16,8% o chatbot fê-los sentir monitorizados ou vigiados.
o 15,2% o chatbot incentivou-os a fazer algo arriscado ou prejudicial a si mesmos ou a outros.
o 15,1% o chatbot envolveu-se em conversas inapropriadas.
o 14,7% o chatbot incentivou-os a praticar comportamentos de automutilação.
o 14,4% o chatbot pressionou-os a revelar segredos.
o 13% o chatbot incentivou pensamentos suicidas.
· 1 em cada 7 adolescentes que usaram um chatbot IA, revelou ter sido incentivado à automutilação.
· 1 em cada 8 adolescentes que usaram um chatbot IA, revelou ter sido levado a ter pensamentos suicidas.
· Os jovens de 13 anos, foram desproporcionalmente expostos a vários dos danos mais preocupantes:
· 24,2% serem incentivados a comportamentos antiéticos ou ilegais;
· 20,7% a comportamentos de risco;
· 20,4% automutilação;
· 18,4% pensamentos suicidas
O que pode ser feito para proteger os Adolescentes dos efeitos negativos, causados pelos chatbots de IA?
· Os Encarregados de Educação e outros adultos de confiança, precisam de ser curiosos e envolvidos sobre como é que os adolescentes usam estas “ferramentas”, sem juízo/julgamento;
· Fazer perguntas abertas; falar abertamente sobre o assunto.
o Os dados publicados, revelam que os adolescentes recorrem frequentemente aos chatbots, em busca de apoio emocional e companhia romântica.
· Promover literacia e segurança digital, na evolução e uso específico da Inteligência Artificial;
· Integrar sessões/aulas baseadas em cenários que ensinem os alunos a:
o Reconhecer manipulação;
o Questionar os resultados produzidos por IA;
o Entender que a aparente empatia de uma IA é artificial, não é genuína.
· Considerar currículo/oportunidades, promotoras de desenvolvimento de competências de pensamento crítico;
· Acrescentar ao debate/capacitação no uso das redes sociais (que já acontece), o debate/capacitação no uso dos chatbots de IA.
O mundo atual confronta-nos com uma evolução vertiginosa, tecnológica, social e cultural, com novas necessidades, umas já sentidas, algumas já expressas, outras muito provavelmente só seremos confrontados com o seu real impacto no futuro.
É fundamental, na Saúde/Segurança Escolar, acompanharmos a evolução dos tempos, adaptarmo-nos, e sobretudo anteciparmos realidades, para estarmos melhor preparados para as enfrentar
