A Alexa, assistente virtual da Amazon, teria mandado uma criança encostar uma moeda nos pinos expostos de um carregador conectado à parede. Segundo a mãe, que postou imagens do histórico de atividades da inteligência artificial, a interação teria surgido a partir de um desafio de um artigo descrito como perigoso e uma suposta trend do TikTok.
Tudo teria começado quando o filho de Kristin Livdahl teria pedido ao dispositivo Echo a sugestão de um desafio para ser cumprido, como aqueles de dança que são tão comuns nas redes sociais. A assistente então teria localizado uma página do site ourcommunitynow.com no qual foi feita a tal recomendação.
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
A Alexa ainda explicou como a criança deveria fazer o tal desafio: “conecte um carregador de telefone só até a metade em uma tomada e, em seguida, toque nos pinos expostos com uma moeda”. Por sorte, nada aconteceu e todos passam bem, mas o susto foi grande.
Em um comunicado à BBC, a Amazon disse ter agido de imediato assim que tomou conhecimento do erro para corrigi-lo. De fato, a mãe do menino disse ter tentado repetir a prática e não conseguiu, fato este comprovado pelo Canaltech. Agora, quando solicitada a oferecer um desafio a assistente apenas recomenda que você “tire a b***a do sofá e saia”.
IAs ainda precisam de aprimoramento
É claro que isso poderia ter acabado muito mal se a criança tivesse seguido o conselho da IA, por isso a mãe ficou bastante chocada com o ocorrido. A gigante do comércio eletrônico não é a única empresa a ter problemas com o algoritmo de entrega de conteúdo: o Google Assistente já passou por isso e a Siri também já foi alvo de respostas impróprias.
No caso da Alexa, o algoritmo selecionou a parte descritiva de um aviso e reproduziu-o para o usuário sem apresentar o contexto original. Imagine, contudo, se a mãe não estivesse por perto e a criança tivesse tempo para agir sozinha? É um dos desafios que as fabricantes de assistentes virtuais precisam lidar constantemente, no intuito de coibir práticas perigosas que possam levar até a morte.
Do Canaltech (com informações da BBC)
