Hoje, dia 10 de fevereiro, celebra-se o Dia da Internet Segura, uma iniciativa global dedicada à proteção de crianças e jovens no ambiente digital. O tema deste ano, “Smart tech, safe choices – Exploring the safe and responsible use of AI”, surge num momento crítico: a inteligência artificial deixou de ser uma tecnologia distante para estar presente nas ferramentas utilizadas pelos nossos filhos diariamente, como assistentes virtuais, plataformas educativas e redes sociais.

Como profissionais de TI e responsáveis por organizações, temos um papel duplo: proteger os sistemas que gerimos e capacitar as famílias dos nossos colaboradores para navegarem neste novo território com segurança.

Por que razão a IA preocupa-nos quando falamos de crianças e jovens?

A inteligência artificial transformou como as novas gerações aprendem, comunicam e divertem-se. No entanto, esta omnipresença acarreta riscos específicos para um público ainda em desenvolvimento:

Manipulação e conteúdo inadequado

Os algoritmos de recomendação alimentados por IA são otimizados para maximizar o envolvimento, não para proteger o bem-estar dos menores. Isto resulta em:

• Exposição a conteúdos nocivos: vídeos, imagens ou mensagens inapropriadas que surgem em feeds personalizados;
• Radicalização progressiva: Algoritmos que empurram progressivamente conteúdo mais extremo com base no comportamento de visualização;
• Pressão social amplificada: IA que promove padrões irrealistas de beleza, sucesso ou comportamento, afetando a saúde mental.

Privacidade e exploração de dados

As crianças e os jovens ainda não têm plena consciência do valor dos seus dados pessoais. As plataformas que usam IA recolhem informação sobre comportamentos, preferências, localização e interações, criando perfis digitais detalhados que podem ser explorados comercialmente ou comprometidos em violações de dados.

A legislação europeia (RGPD) estabelece proteções especiais para menores de 16 anos, mas a sua aplicação prática continua a ser um desafio.

Predadores e engenharia social

Os criminosos usam a IA para criar perfis falsos altamente convincentes e personalizar abordagens a potenciais vítimas. As técnicas incluem:

• Deepfakes e clonagem de voz: vídeos ou chamadas falsas que imitam amigos ou figuras de autoridade;
• Chatbots maliciosos: conversas aparentemente inofensivas que visam obter informação pessoal ou manipular emocionalmente;
• Phishing direcionado: mensagens personalizadas que parecem vir de fontes legítimas (escolas, plataformas de jogos, redes sociais).

Dependência de IA e erosão do pensamento crítico

A utilização generalizada de ferramentas de IA para fazer os trabalhos de casa, responder a perguntas ou tomar decisões pode criar uma geração que delega o pensamento crítico às máquinas. As “alucinações” da IA, ou seja, respostas incorretas apresentadas com confiança, podem ser aceites sem questionamento por jovens que ainda não desenvolveram plenamente a sua capacidade crítica.

O papel das organizações: uma responsabilidade que vai para além da conformidade

Se a sua organização desenvolve ou oferece serviços digitais, leia o seguinte:

As empresas que criam aplicações, plataformas ou serviços utilizados por menores têm responsabilidades legais e éticas reforçadas.

1. Privacy by design: sistemas que minimizam a recolha de dados de menores e que têm controlos parentais robustos.
2. Moderação de conteúdo: utilização de IA para detetar e remover conteúdo nocivo antes de este chegar às crianças.
3. Transparência algorítmica: clareza sobre o funcionamento dos sistemas de recomendação e os dados processados.
4. Cumprimento dos regulamentos: RGPD, Regulamento Inteligência Artificial (Regulamento UE 2024/1689) e legislação nacional sobre proteção de menores.

O incumprimento destes aspetos não resulta apenas em coimas, mas também causa danos reais a menores vulneráveis e destrói a reputação organizacional.

Para todas as organizações: capacitar os colaboradores que são pais

Mesmo que a vossa organização não desenvolva produtos para crianças, podeis ter um impacto significativo através dos vossos colaboradores. Considere:

• Sessões de sensibilização: workshops sobre segurança digital para famílias, incluindo os riscos da IA.
• Recursos práticos: guias simples sobre controlos parentais, configuração de dispositivos seguros e sinais de alerta;
• Cultura de segurança: os profissionais que adotam boas práticas de segurança no trabalho tendem a aplicar os mesmos princípios em casa.

Guia prático: o que os pais e educadores devem fazer

1. Estabelecer um diálogo aberto e contínuo

Conversem com as crianças e os jovens sobre o que fazem online, sem os julgar. Perguntem:

• Que aplicações usam e porquê?
• Já viram algo que os deixou desconfortáveis?
• Compreendem que informação podem ou não partilhar?

A confiança é mais eficaz do que a vigilância invasiva.

2. Configurem ferramentas de proteção

• Controlos parentais: Ativem filtros nos routers, sistemas operativos e aplicações.
• Contas adequadas à idade: Utilizem perfis infantis em plataformas de streaming e de pesquisa.
• Limites de tempo: estabeleçam horários saudáveis de utilização de ecrãs.

3. Eduquem para o pensamento crítico sobre IA

Ensinem os jovens a questionar os resultados da IA:

• “Esta resposta faz sentido ou pode estar errada?”
• “De onde veio esta informação?”
• “Consigo verificar isto noutra fonte?”

Promovam a validação humana em vez da aceitação cega das respostas geradas pelas máquinas.

4. Proteção de dados pessoais

Expliquem que informação nunca deve ser partilhada online:

• Morada;
• Escola;
• Rotinas diárias;
• Palavras-passe (nem mesmo com “amigos”);
• Fotografias comprometedoras;
• Localização em tempo real.

Alertem para que tudo o que é partilhado online pode permanecer disponível para sempre.

5. Identifiquem sinais de alerta

Estejam atentos a mudanças de comportamento que possam indicar problemas:

• Secretismo súbito sobre atividades online;
• Ansiedade ou medo relacionados com dispositivos;
• Interações com desconhecidos que pareçam demasiado íntimas;
• Isolamento social crescente.

IA ao serviço da proteção: o lado positivo

Nem tudo são riscos. A mesma tecnologia pode ser uma aliada:

• Deteção automática de ciberbullying: Algoritmos que identificam padrões de assédio em mensagens e alertam os educadores;
• Filtragem inteligente: IA que bloqueia conteúdo inadequado em tempo real com maior precisão;
• Monitorização parental respeitosa: ferramentas que alertam para comportamentos de risco sem invadir completamente a privacidade;
• Educação personalizada: plataformas que adaptam a aprendizagem ao ritmo individual, promovendo a literacia digital.

O desafio consiste em garantir que estas ferramentas são desenvolvidas de forma ética e transparente.

Um compromisso coletivo

O Dia da Internet Segura lembra-nos que a segurança online das crianças e dos jovens não é apenas responsabilidade dos pais ou das escolas, mas sim um compromisso coletivo que envolve os governos, as empresas de tecnologia, os profissionais de TI e toda a sociedade civil.

Como profissionais de cibersegurança e gestores de tecnologia, temos competências únicas para contribuir:

• Exigir padrões éticos aos fornecedores que escolhemos;
• Implementar políticas de privacidade robustas nos nossos sistemas;
• Partilhar conhecimento com as nossas comunidades;
• Educar as nossas próprias famílias sobre os riscos emergentes.

A inteligência artificial veio para ficar e continuará a moldar o mundo digital das próximas gerações. Cabe-nos garantir que essa moldagem aconteça de forma segura, ética e respeitadora dos direitos e do bem-estar daqueles que ainda estão a crescer.

Porque construir uma internet mais segura começa com as escolhas que fazemos hoje, tanto no trabalho como em casa.