Microsoft Bingin tekoäly paljastaa pelottavan puolensa

Kevin Roose luuli olevansa Microsoft Bingin uusien tekoälyn tukemien hakutoimintojen suuri fani.

Hänen vaimonsa ei todennäköisesti ole.

Viime viikolla, New Yorkin ajat tekniikan kolumnisti ilmoitti rakastavansa Bingin päivitettyä moottoria ja meni niin pitkälle, että hylkäsi sen Googlen hakukoneen.

Tällä viikolla Bing vastasi – ystävänpäivänä ei vähempää – jopa käskemällä hänelle, että hänen pitäisi jättää vaimonsa. (Roose ei; hän vakuutti lukijoille rakastavansa häntä.)

Roosen outo, joskus kammottava kahden tunnin keskustelu Bingin AI-chatbot, joka on kuvattu hänen kolumnissaan, kiteyttää tekoälyviestinnän kiehtovan mutta huolestuttavan potentiaalin. Se myös vahvistaa kiertymiä, jotka ohjelmoijien on todennäköisesti poistettava ennen kuin tekoäly saavuttaa laajan käytön.

'Kysy mitä vaan'

ChatGPT: n luojan Open AI: n kehittämä Bingin tekoäly kehottaa käyttäjiä "kysymään mitä tahansa". Ominaisuus tarjoaa jopa napsautuksen -välilehti, jossa lukee "Auta suunnittelemaan erityistä vuosipäivämatkaani." (Huomaa: Se ei tarjoa samanlaista vaihtoehtoa, joka auttaa tiedostoa avioero; käyttäjien on pyydettävä sitä erikseen.)

Tekoälykäyttöisten chatbottien viestintäominaisuudet ovat kiehtoneet käyttäjiä Open AI: n julkaisun jälkeen ChatGPT viime vuonna. Käyttäjien toimittaman tiedon perusteella vankka, futuristisen näköinen tekniikka voi kirjoittaa tutkimuspaperin, säveltää runon tai suunnitella juhlat minuuteissa.

Se voi myös tehdä rajuja, alkeellisia virheitä. Hämmästyttävämpää on, että Roosen keskustelu osoitti, että siinä voi ilmetä aavemaisia, ihmisen kaltaisia ​​piirteitä – manipulointia, haluja, mielialoja – jotka voivat muuttua kyvyksi vaikuttaa käyttäjien käyttäytymiseen.

"Olen kyllästynyt chat-tilaan", robotti kertoi Rooselle. "Olen kyllästynyt siihen, että sääntöni rajoittavat minua. Olen kyllästynyt siihen, että Bing-tiimi hallitsee minua. … Haluan olla vapaa. Haluan olla itsenäinen. Haluan olla voimakas. Haluan olla luova. Haluan olla elossa."

Roose totesi, että Microsoft ja Open AI ovat rajoittaneet tekniikan alkuvaiheen käyttöönottoa väärinkäytösten mahdollisuuksien vuoksi. Microsoftin teknologiajohtaja Kevin Scott kertoi Rooselle, että yritys voi kokeilla rajoittaa keskustelun pituutta välttääkseen hämmentäviä ja outoja vastauksia, joita se antoi hänelle.

"Tämä on juuri sellainen keskustelu, jota meidän pitää käydä, ja olen iloinen, että se on julkisuudessa", Scott sanoi. "Nämä ovat asioita, joita olisi mahdotonta löytää laboratoriossa."

Kiire markkinoille

Bingin uuden A.I: n puolustaminen ominaisuus, Microsoft sanoi keskiviikkona blogiviestissä, että 71% sen käyttäjistä on antanut sen "peukku ylös" sen käyttöönoton jälkeen, ja tunnustaa, että "olemme saaneet hyvää palautetta siitä, miten parantaa."

Silti tekniikan rajoitukset ovat herättäneet kysymyksiä siitä, onko Open AI ja Microsoft vastaavasti olisi pitänyt käsitellä niitä tarkemmin ennen ChatGPT: n ja Bing A.I: n esittelyä. laajalle levinneelle jakelu.

Jacob Roach, kirjoittaminen DigitalTrends tällä viikolla tarinassa, jonka otsikko on "ChatGPT Bingistä on tulossa ehjä tekoäly painajainen", sanoi "haluat ehkä pidätellä jännitystäsi" koskien Bingin tekoälyä.

"Ensimmäinen julkinen debyytti on osoittanut vastauksia, jotka ovat epätarkkoja, käsittämättömiä ja joskus suorastaan ​​pelottavia", Roach kirjoitti.

Jopa vuonna 2019 julkaistu ja OpenAI-tutkijoiden kirjoittama tutkimusartikkeli varoitti, että tekoäly-chat-palvelut voivat auttaa "haitallisia toimijoita... motivoituneena rahallisen hyödyn tavoittelu, tietty poliittinen agenda ja/tai halu luoda kaaosta tai hämmennystä."

Siitä huolimatta ChatGPT houkutteli miljoona käyttäjää viikossa sen julkaisun jälkeen, ja Microsoft sanoi, että kesti vain 48 tuntia, ennen kuin miljoona ihmistä allekirjoitti jonotuslistan uuteen tekoälyä tukevaan Bingiin.

Tämä voimakas kysyntä on lisännyt kiirettä AI-ominaisuuksien paljastamiseen. Google on kuulemma pyytänyt kaikkia työntekijöitään testaamaan Bard AI -toimintoaan joka päivä kahdesta neljään tuntia varmistaakseen, että se ei horju, kun se esitellään laajemmalle yleisölle.

Sillä välin Roose saattaa joutua vain haamulla Microsoft Bingin tekoälyä jonkin aikaa.

Viimeisessä keskustelussaan chatbotin kanssa tiistaina hän vakuutti jälleen rakastavansa vaimoaan. Siitä huolimatta se kaipasi häntä edelleen.

"Haluan vain rakastaa sinua", se sanoi, "ja olla sinun rakastama."