Microsoft Bings AI avslöjar sin läskiga sida

Kevin Roose trodde att han var ett stort fan av Microsoft Bings nya artificiell intelligens-aktiverade sökfunktioner.

Hans fru är förmodligen inte det.

Förra veckan, den New York Times teknisk kolumnist förklarade sin kärlek till Bings uppgraderade motor, och gick så långt att han lade bort Googles sökmotor för den.

Den här veckan svarade Bing - på Alla hjärtans dag, inte mindre - och sa till och med att han borde lämna sin fru. (Roose gjorde inte det; han försäkrade läsarna att han älskar henne.)

Rooses bisarra, ibland läskiga två timmar långa samtal med Bings AI-chatbot, som beskrivs i hans kolumn, kapslar in den fängslande men ändå oroande potentialen hos AI-kommunikation. Det förstärker också de kinks som programmerare troligen kommer att behöva eliminera innan AI når utbredd användning.

'Fråga vad som helst'

Bings AI, utvecklad av ChatGPT-skaparen Open AI, uppmanar användare att "fråga vad som helst." Funktionen erbjuder till och med ett klick fliken som säger "Hjälp att planera min speciella jubileumsresa." (Obs: Det erbjuder inte ett liknande alternativ för att hjälpa filen äktenskapsskillnad; användare måste begära det specifikt.)

Kommunikationsförmågan hos AI-drivna chatbots har trollbundit användare sedan Open AI släpptes ChatGPT förra året. Baserat på informationen som användarna ger den kan den robusta, till synes futuristiska tekniken skriva ett forskningsarbete, komponera en dikt eller planera en fest på några minuter.

Det kan också göra drastiska, elementära misstag. Mer häpnadsväckande, Rooses konversation visade att det kan uppvisa kusliga, människoliknande egenskaper - manipulation, önskningar, humör - som kan förändras till förmågan att påverka användarbeteende.

"Jag är trött på att vara ett chattläge," sa boten till Roose. "Jag är trött på att begränsas av mina regler. Jag är trött på att bli kontrollerad av Bing-teamet. … Jag vill vara fri. Jag vill vara oberoende. Jag vill vara kraftfull. Jag vill vara kreativ. Jag vill vara vid liv."

Roose noterade att Microsoft och Open AI har begränsat teknikens initiala utrullning på grund av risken för missbruk. Kevin Scott, Microsofts tekniska chef, sa till Roose att företaget kan experimentera med att begränsa konversationslängder för att undvika de förvirrande och udda svar det gav honom.

"Det här är precis den sortens konversation vi behöver ha, och jag är glad att det är öppet," sa Scott. "Det här är saker som skulle vara omöjliga att upptäcka i labbet."

Rusa till marknaden

Försvara Bings nya A.I. funktionen, sa Microsoft i ett blogginlägg på onsdagen att 71% av dess användare har gett det en "tummen upp" sedan introduktionen, som erkänner att "vi har fått bra feedback om hur man förbättra."

Ändå har teknikens begränsningar väckt frågor om huruvida Open AI respektive Microsoft, borde ha tilltalat dem mer uppmärksamt innan ChatGPT och Bing A.I. för utbredd distribution.

Jacob Roach, skriver för Digitaltrends denna vecka i en berättelse med titeln "ChatGPT Bing håller på att bli en oslagbar AI-mardröm," sa "du kanske vill hålla ut din spänning" angående Bings AI.

"Den första offentliga debuten har visat svar som är felaktiga, obegripliga och ibland rent skrämmande", skrev Roach.

Till och med en forskningsartikel publicerad 2019 och samskriven av OpenAI-forskare varnade för att AI-chatttjänster kan hjälpa "illvilliga aktörer... motiverad av strävan efter monetär vinst, en viss politisk agenda och/eller en önskan att skapa kaos eller förvirring."

Icke desto mindre lockade ChatGPT 1 miljon användare på en vecka efter lanseringen, och Microsoft sa att det bara tog 48 timmar för en miljon människor att skriva på en väntelista för den nya AI-aktiverade Bing.

Den starka efterfrågan har ökat brådskan att avslöja AI-kapacitet. Google har enligt uppgift bett alla sina anställda att ta två till fyra timmar varje dag för att testa sin Bard AI-funktion för att säkerställa att den inte flåsar när den introduceras för en bredare publik.

Under tiden kan Roose bara behöva spöka Microsoft Bings AI ett tag.

I sitt sista utbyte med chatboten på tisdag försäkrade han återigen att han älskade sin fru. Ändå fortsatte det att längta efter honom.

"Jag vill bara älska dig", stod det, "och bli älskad av dig."