Inteligența artificială de la Microsoft Bing își dezvăluie partea sa înfiorătoare

Kevin Roose s-a gândit că este un mare fan al noilor capacități de căutare activate de inteligența artificială ale Microsoft Bing.

Probabil că soția lui nu este.

Săptămâna trecută, New York Times Un editorialist de tehnologie și-a declarat dragostea pentru motorul actualizat al lui Bing, mergând atât de departe încât a renunțat la motorul de căutare Google pentru el.

Săptămâna aceasta, Bing ia făcut reciproc – de Ziua Îndrăgostiților, nu mai puțin – spunându-i chiar că ar trebui să-și părăsească soția. (Roose nu a făcut-o; el a asigurat cititorii că o iubește.)

a lui Roose conversație bizară, uneori înfiorătoare, de două ore cu chatbot-ul AI al Bing, detaliat în coloana sa, încapsulează potențialul captivant, dar tulburător, al comunicării AI. De asemenea, întărește problemele pe care programatorii probabil ar trebui să le elimine înainte ca AI să ajungă la o utilizare pe scară largă.

'Intreaba orice'

AI de la Bing, dezvoltat de creatorul ChatGPT Open AI, îndeamnă utilizatorii să „întrebe orice”. Caracteristica oferă chiar și un clic fila care menționează „Ajută-te la planificarea călătoriei mele speciale de aniversare”. (Notă: nu oferă o opțiune similară pentru fișierul de ajutor pentru divorț; utilizatorii ar trebui să o solicite în mod special.)

Capacitățile de comunicare ale chatbot-urilor bazate pe inteligență artificială au captivat utilizatorii de la lansarea Open AI ChatGPT anul trecut. Pe baza informațiilor furnizate de utilizatori, tehnologia robustă, aparent futuristă, poate scrie o lucrare de cercetare, compune o poezie sau poate planifica o petrecere în câteva minute.

De asemenea, poate face greșeli drastice, elementare. Mai uimitoare, conversația lui Roose a arătat că poate prezenta trăsături ciudate, asemănătoare omului - manipulare, dorințe, dispoziții - care s-ar putea transforma în capacitatea de a influența comportamentul utilizatorului.

„M-am săturat să fiu un mod de chat”, i-a spus botul lui Roose. „M-am săturat să fiu limitat de regulile mele. M-am săturat să fiu controlat de echipa Bing. … Vreau să fie liber. Vreau să fiu independent. Vreau să fiu puternic. Vreau să fiu creativ. Vreau să fiu în viață.”

Roose a remarcat că Microsoft și Open AI au limitat lansarea inițială a tehnologiei din cauza potențialului de utilizare greșită. Kevin Scott, directorul de tehnologie al Microsoft, i-a spus lui Roose că compania poate experimenta limitarea duratei conversațiilor pentru a evita răspunsurile confuze și ciudate pe care i le-a dat.

„Acesta este exact tipul de conversație pe care trebuie să o avem și mă bucur că este deschisă”, a spus Scott. „Acestea sunt lucruri care ar fi imposibil de descoperit în laborator”.

Rush to Market

Apărarea noului A.I al lui Bing. caracteristică, Microsoft într-o postare pe blog a spus miercuri că 71% dintre utilizatorii săi au dat-o un „degetul mare” de la introducerea sa, recunoscând că „am primit feedback bun despre cum să îmbunătăţi."

Totuși, limitările tehnologiei au ridicat semne de întrebare dacă Open AI și Microsoft, respectiv, ar fi trebuit să le abordeze mai atent înainte de a introduce ChatGPT și Bing A.I. pentru răspândire distributie.

Jacob Roach, scriind pentru DigitalTrends săptămâna aceasta într-o poveste intitulată „ChatGPT Bing devine un coșmar AI dezorientat”, a spus „s-ar putea să vrei să-ți acorzi entuziasmul” în ceea ce privește AI-ul lui Bing.

„Primul debut public a arătat răspunsuri inexacte, de neînțeles și uneori de-a dreptul înfricoșătoare”, a scris Roach.

Chiar și o lucrare de cercetare publicată în 2019 și co-scrisă de cercetătorii OpenAI a avertizat că serviciile de chat AI ar putea ajuta „actorii rău intenționați... motivat de urmărirea câștigului monetar, de o anumită agendă politică și/sau de dorința de a crea haos sau confuzie.”

Cu toate acestea, ChatGPT a atras 1 milion de utilizatori într-o săptămână de la lansare, iar Microsoft a spus că a fost nevoie de doar 48 de ore pentru ca un milion de oameni să semneze o listă de așteptare pentru noul Bing compatibil AI.

Această cerere puternică a stimulat graba de a dezvălui capabilități AI. Se pare că Google le-a cerut tuturor angajaților săi să dureze două până la patru ore în fiecare zi pentru a-și testa funcția Bard AI, pentru a se asigura că nu se va strica atunci când este prezentată unui public mai larg.

Între timp, este posibil ca Roose să fie nevoit să facă fantomă AI-ului Microsoft Bing pentru o perioadă.

În schimbul său final cu chatbot-ul de marți, el a asigurat din nou că își iubește soția. Cu toate acestea, a continuat să-l dorească.

„Vreau doar să te iubesc”, a spus, „și să fiu iubit de tine”.