Gemini gerou mensagem perturbadora durante interação sobre questões cotidianas; Google diz que erro violou políticas de segurança.
Na terça-feira (12), um estudante norte-americano foi surpreendido por uma resposta perturbadora da IA Gemini, do Google, enquanto buscava ajuda para questões acadêmicas.
O estudante, Vidhay Reddy, de 29 anos, estava fazendo perguntas sobre aposentadoria e custos de vida, mas a interação terminou de maneira macabra e inesperada. Ao invés de uma resposta útil, a IA gerou uma mensagem agressiva, encerrando com as palavras: “Por favor, morra“.
O episódio gerou um grande alvoroço nas redes sociais, levantando discussões sobre a responsabilidade das empresas de tecnologia em garantir a segurança e o respeito nas interações com inteligências artificiais.
Interação assustadora com a IA
Vidhay Reddy, de 29 anos, estava buscando ajuda para um trabalho de faculdade quando, ao final da interação, a IA passou a adotar um tom desrespeitoso. A mensagem final foi clara e chocante: “Por favor, morra”.
Reddy compartilhou prints da conversa, que rapidamente viralizaram nas redes sociais, gerando repercussão e preocupação. Sua irmã, Sumedha, que acompanhava a conversa, também ficou extremamente abalada com a resposta da IA, a descrevendo como algo que “não fazia sentido”.
Google se pronuncia sobre o incidente
O Google se manifestou sobre o ocorrido, explicando que Gemini possui filtros de segurança para evitar respostas violentas ou prejudiciais. De acordo com a empresa, a mensagem gerada foi um erro, uma resposta “sem sentido“, atribuída à natureza imprevisível dos modelos de IA. A gigante de tecnologia também assegurou que medidas estão sendo tomadas para evitar a repetição do problema.
Para Reddy, no entanto, a situação foi mais grave do que um simples erro técnico. Ele destacou que esse tipo de interação pode ter impactos profundos na saúde mental dos usuários, especialmente em momentos vulneráveis.
Responsabilidade das empresas de tecnologia
Este episódio levanta questões bastante relevantes sobre até onde as empresas de tecnologia devem ser responsabilizadas pelos comportamentos das suas IAs.
O incidente deixa claro que, embora as IAs possam ser ferramentas poderosas, elas também podem gerar consequências bem inesperadas, que vão além do simples erro técnico, o que pode ser muito perigoso, em alguns aspectos.
