Instagram vai alertar pais sobre conversas sensíveis de filhos com IA

São Paulo - O Instagram implementou um novo recurso de segurança que notificará proativamente os pais caso seus filhos adolescentes mencionem automutilação ou suicídio durante conversas com a inteligência artificial da plataforma, o Meta AI.

O novo recurso de segurança notifica de forma proativa os pais ou responsáveis que já utilizam as ferramentas de supervisão parental do Instagram. 

Como funciona a novidade?

O sistema foi desenvolvido para identificar falas em que o jovem demonstre intenções de se machucar, mesmo que a referência seja sutil. Sabendo da sensibilidade do tema e para evitar sustos desnecessários, todas as conversas sinalizadas pela IA passarão por uma revisão manual humana.

Caso o risco se confirme, ou se a intenção do adolescente gerar dúvidas, um alerta será enviado aos responsáveis que utilizam a ferramenta de Supervisão Parental do aplicativo.

Além de notificar a família, o Instagram fornecerá materiais de apoio elaborados por especialistas em saúde mental para ajudar os pais a abordarem a situação da melhor maneira em casa. Em cenários extremos, onde a plataforma detecte que o risco à vida é iminente, o sistema poderá até mesmo acionar os serviços de emergência locais para realizar uma verificação de bem-estar.

Como complemento de segurança, as contas de adolescentes que ativarem a configuração de "Conteúdo Limitado" terão uma camada extra de proteção. Isso fará com que o próprio Meta AI se recuse a responder e interagir com uma gama muito maior de perguntas que envolvam conteúdos sensíveis, inapropriados ou não adequados para a idade

Em quais países já funciona?

A ferramenta já está valendo e em pleno funcionamento, mas ainda não é global.
Neste primeiro momento, o lançamento da novidade é restrito. Os alertas só estão disponíveis para os pais e responsáveis que utilizam as ferramentas de supervisão do Instagram em quatro países: Estados Unidos, Reino Unido, Austrália e Canadá.

A Meta confirmou que a funcionalidade será lançada para todos os usuários globalmente até o final deste ano.