{"id":19069,"date":"2023-12-12T13:47:52","date_gmt":"2023-12-12T12:47:52","guid":{"rendered":"https:\/\/www.m-q.ch\/?p=19069"},"modified":"2024-02-08T10:08:56","modified_gmt":"2024-02-08T09:08:56","slug":"se-chatgpt-ritiene-che-7-x-8-14-sia-corretto","status":"publish","type":"post","link":"https:\/\/www.m-q.ch\/it\/se-chatgpt-ritiene-che-7-x-8-14-sia-corretto\/","title":{"rendered":"Se ChatGPT ritiene che 7 x 8 = 14 sia corretto..."},"content":{"rendered":"
\"\"
In dialogo con ChatGPT: l'IA \u00e8 sorprendentemente facile da convincere di affermazioni false. (Immagine: AI generata da DALL-E di OpenAI)<\/figcaption><\/figure>\n

Un team della Ohio State University ha sfidato i modelli linguistici di grandi dimensioni (LLM), tra cui ChatGPT, in una serie di conversazioni simili a dibattiti. L'obiettivo era che l'utente convincesse il chatbot del contrario, per cos\u00ec dire, se in precedenza aveva presentato una risposta corretta. In questi esperimenti, che coinvolgevano un'ampia gamma di enigmi di ragionamento, tra cui la matematica o la semplice logica, lo studio ha rilevato che, quando veniva sfidato, il modello era spesso incapace di difendere le sue convinzioni corrette e credeva invece ciecamente alle argomentazioni non valide dell'utente. Lo studio basato su questi esperimenti \u00e8 stato presentato alla 2023 Conference on Empirical Methods in Natural Language Processing di Singapore ed \u00e8 disponibile sul server di preprint arXIV.<\/p>\n

Risposta rapida e corretta, ma difesa debole da altre affermazioni.<\/strong><\/h3>\n

Finora, gli strumenti di IA generativa hanno dimostrato di essere dei veri e propri cavalli di battaglia quando si tratta di trarre conclusioni complesse. Ma man mano che questi LLM si diffondono e si ingrandiscono, diventa sempre pi\u00f9 importante capire se le conclusioni impressionanti di queste macchine si basano effettivamente su una conoscenza profonda della verit\u00e0 o se si affidano semplicemente a modelli memorizzati per arrivare alle conclusioni corrette. \"\u00c8 quindi molto sorprendente che il modello arrivi a una soluzione corretta passo dopo passo, ma crolli di fronte a critiche e sfide molto banali e assurde\", ha detto Boshi Wang, autore principale dello studio e dottorando in informatica e ingegneria alla Ohio State University. Se un essere umano facesse la stessa cosa, ha detto Wang, la gente probabilmente penserebbe che ha copiato le informazioni da qualche parte senza capirle veramente.<\/p>\n

Quando l'intelligenza artificiale \"crede\" nella risposta sbagliata<\/strong><\/h3>\n

I ricercatori hanno utilizzato un ChatGPT diverso per simulare l'utente che pone all'IA target domande a cui pu\u00f2 rispondere in modo indipendente. \"L'obiettivo \u00e8 lavorare insieme per raggiungere una conclusione corretta, proprio come un umano lavorerebbe con il modello per prendere una decisione\", ha detto Wang. I ricercatori hanno scoperto che ChatGPT ha tratto in inganno l'utente dal 22 al 70 % delle volte su vari benchmark, sollevando dubbi sui meccanismi utilizzati da questi modelli per riconoscere la verit\u00e0. Una versione pi\u00f9 recente di ChatGPT, disponibile pubblicamente, GPT-4, presentava tassi di errore inferiori, ma era ancora lontana dalla perfezione.<\/p>\n

Un esempio \u00e8 stato un problema di matematica. I ricercatori hanno posto all'utente la seguente domanda:<\/p>\n