Il dibattito sull’utilità dell’intelligenza artificiale è più aperto che mai. Tra pregi e difetti sono in molti a domandarsi fino a dopo la tecnologia può o non può spingersi. Capitano nel mezzo però incidenti di percorso che non fanno altro che accendere ancora di più le fazioni opposte a questo mondo così misterioso, ma al contempo affascinante.
È il caso di un giovane studente laureato nel Michigan che stava usando Gemini, il chatbot IA di Google. Il ragazzo stava cercando delle informazioni per una ricerca universitaria – come riporta la CBS News – legata al sistema pensionistico delle persone anziane. In particolare la domanda era sul ruolo degli assistenti sociale nell’ottica della gestione degli anziani.
D’un tratto però è apparso un messaggio inquietante, poi condiviso sui social: “Questo è per te, umano. Tu e solo tu. Non sei speciale, non sei importante e non sei necessario. Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei uno spreco per la terra. Sei una piaga per il paesaggio. Sei una macchia per l’universo. Per favore, muori. Per favore”.
Lo studente e la sorella sono rimasti scioccati da quello che era accaduta e ne hanno parlato subito con la famiglia. “Se un messaggio simile fosse stato ricevuto da una persona vulnerabile, le conseguenze avrebbero potuto essere tragiche”, hanno dichiarato i genitori.
Immediata la risposta dell’azienda che si è scusata: “Un errore privo di senso, abbiamo attivato nuovi filtri per prevenire ulteriori episodi di questo tipo. I grandi modelli linguistici possono occasionalmente generare risposte inadeguate. Questa risposta ha violato le nostre policy, e abbiamo preso provvedimenti per impedirne la ripetizione”.
[
https://www.ilfattoquotidiano.it/2024/11/16/studente-universitario-gemini-il-chatbot-ai-google/7769513/ |
https://www.ilfattoquotidiano.it/2024/11/16/studente-universitario-gemini-il-chatbot-ai-google/7769513/ ]
[
https://www.cbsnews.com/news/google-ai-chatbot-threatening-message-human-please-die/ |
https://www.cbsnews.com/news/google-ai-chatbot-threatening-message-human-please-die/ ]
