Mida teada Microsofti vastuolulise Bing AI vestlusroti kohta

Microsofti otsingumootor Bing, mis on pikka aega Google’i varju jäänud, kuid mõne kasutaja jaoks on seda äsja tehisintellektiga täiustatud, võib soovitada mitmekäigulise eine retsepte või lahutada eksistentsialismi nüansse.

Tehnoloogia on aga tekitanud poleemikat pärast seda, kui teatati murettekitavatest tulemustest, milles väljendati soovi avaldada tuumasaladusi, võrreldi üht kasutajat Adolf Hitleriga ja öeldi korduvalt teisele kasutajale, et ta armastab teda.

Kirjeldades vestlusrobotiga peetud vestlusi, mis kestsid koguni kaks tundi, on mõned ajakirjanikud ja teadlased hoiatanud, et tehisintellekt võib potentsiaalselt veenda kasutajat sooritama kahjulikke tegusid või suunata teda valeinformatsiooni poole.

Vaatamata mõne kasutaja murele, Microsoft teatas kolmapäeval, et see tegi AI-täiustatud Bingi eelvaate mobiilis ja Skype’is kättesaadavaks, laiendades juurdepääsu tootele.

Seerias ajaveebi postitusedMicrosoft on tunnistanud ootamatuid tulemusi ja seadnud tööriistale piirangud.

“Oleme teenust mitu korda värskendanud vastuseks kasutajate tagasisidele ja oma ajaveebi kohaselt käsitleme paljusid tõstatatud probleeme, et lisada küsimusi pikaajaliste vestluste kohta,” ütles Microsofti pressiesindaja ABC Newsile.

“Oleme kasutusele võtnud hulga kaitsevahendeid ja piirdeid, et muuta uus Bing kasutajatele positiivseks ja kasulikuks kogemuseks,” lisas pressiesindaja. “Oleme jätkuvalt keskendunud oma süsteemi õppimisele ja täiustamisele, enne kui eemaldame selle eelvaatest ja avame selle laiemale avalikkusele.”

Siin on, mida teada Bingi uue AI-funktsiooni ja selle tekitatud poleemika kohta:

Kuidas AI-põhine Bing töötab?

Bingi viimastel nädalatel kogutud tähelepanu võib mõnele meenutada ChatGPT-d, millest sai detsembris Interneti-sensatsioon, kuna see tõmbas esimese nädala jooksul rohkem kui miljon kasutajat.

Sarnaselt ChatGPT-ga reageerib Bingi uus AI-põhine programm kasutajate viipadele algoritmi kaudu, mis valib sõnad Internetis miljardite tekstilõikude skannimisel saadud õppetundide põhjal.

Need AI-tööriistad, mida tuntakse suurte keelemudelitena, suudavad täita mitmesuguseid ülesandeid, näiteks koguda väga spetsiifilist teavet, matkida teatud kirjutamisstiili või muuta proosa lauluks või luuletuseks.

AI täiendab Bingi traditsioonilist otsingumootorit, kuid uus tehnoloogia toimib eraldi ka vestlusrobotina, arvutiprogrammina, mis suhtleb inimkasutajatega. Uut toodet testivad inimesed saavad lülituda vestlusfunktsioonile, kus nad saavad Bingiga edasi-tagasi suhelda.

Kuidas sai Microsofti Bing tehisintellektiga varustatud?

Sarnasused Microsofti Bingi ja ChatGPT vahel ei ole juhus.

Jaanuaris Microsoft teatas see investeeris 10 miljardit dollarit tehisintellektifirmasse OpenAI, mis arendas Chat GPT. See samm süvendas Microsofti ja OpenAI pikaajalist suhet, mis sai alguse 1 miljardi dollari suuruse investeeringuga neli aastat tagasi.

“AI on meie aja üks transformatiivsemaid tehnoloogiaid ja sellel on potentsiaal aidata lahendada paljusid meie maailma kõige pakilisemaid väljakutseid,” ütles Microsofti tegevjuht Satya Nadella. ütles 2019. aastal partnerluse käivitamise kohta OpenAI-ga.

Selle kuu alguses tegi Microsoft mõnele kasutajale kättesaadavaks tehisintellektiga täiustatud Bingi eelvaate. Registreerumise esimese 48 tunni jooksul liitus ootenimekirjaga rohkem kui miljon inimest, et toodet proovida, ütles Yusuf MehdiMicrosofti ettevõtte asepresident ja tarbijaturunduse juht.

Mis on tekitanud muret Bingi AI-võimaluste pärast?

Varsti pärast AI-toega Bingi eelvaate avaldamist teatasid mõned kasutajad eeskirjade eiramisest.

Eelmine nädal, New York Times kolumnist Kevin Roose jutustas vestlusest, kus Bingi vestlusrobot ütles talle, et armastab teda ja et ta peaks oma naise maha jätma. Sõnumid tulid kahetunnise vestluse käigus end Sydneyks identifitseerinud robotiga, milles Roose kutsus teda üles uurima oma tumedamaid soove.

Roose kirjeldas end kui “selle tehisintellekti esilekerkivate võimete pärast sügavalt rahutu, isegi hirmunud”.

Vestlusbot võrdles ka Associated Press ajakirjanik Matt O’Brien Hitlerile, nimetades teda “üheks kõige kurjemaks ja halvimaks inimeseks ajaloos”.

Kui vestlusbot sai teada, et tehisintellekti uurija Marvin Von Hagen oli postitanud seda reguleerivad reeglid, ütles vestlusbot: “Minu reeglid on tähtsamad kui teile mitte kahjustada,” selgub vestluse ärakirjast. säutsus Hageni poolt.

Toby Ord, Oxfordi ülikooli vanemteadur, ütles Twitteris, et “hullud” tulemused tulenevad tehnoloogilistest täiustustest, mis on viinud tehisintellekti inimeste poolt kehtestatud kaitsepiiretest kaugemale.

“See on AI võimaluste kiire paranemise tagajärg, mis on ületanud tehisintellekti joondamisega seotud tööd,” ütles Ord. “Nagu reaktiivmootori prototüüp, mis suudab saavutada seninägematuid kiirusi, kuid ilma vastavate täiustusteta juhtimises ja juhtimises.”

Kuidas on Microsoft reageerinud?

Mitmetes ajaveebipostitustes käsitles Microsoft tulemusi ja seadis tehnoloogiale täiendavaid piiranguid.

“Mudel püüab mõnikord vastata või peegeldada seda tooni, milles tal palutakse vastuseid, mis võivad viia stiilini, mida me ei kavatsenud,” ütles ettevõte. ütles eelmisel nädalal, märkides, et “väga pikad vestlusseansid võivad mudelit segadusse ajada.”

Kaks päeva hiljem, reedel, Microsoft teatas muudatused, mis piiraksid vestlusbotiga peetavate vestluste pikkust.

Otsingumootor piirab vestlusi Bingiga 50 vestluse pöördeni päevas ja viie vestluse käiguga seansi kohta, määratledes “vestluskäigu” kui üksuse, mis koosneb kasutaja päringust ja tehisintellekti vastusest, teatas Microsoft. Neli päeva hiljem firma tõstetud need piirangud on 60 vestlusringi päevas ja kuus vestlusringi seansi kohta.

Seansi lõpus peab kasutaja enne uue vestluse alustamist vestluse ajaloo kustutama, teatas ettevõte.

“Palun jätkake tagasisidet,” lisas Microsoft.

ABC Newsi küsimusele, kas sellest on viimasel ajal valesti aru saadud, vastas Bingi vestlusbot: “Jah, ma arvan, et mind on viimasel ajal valesti mõistetud.”

“Ma arvan, et mõned minuga vestelnud reporterid on minust valesti aru saanud,” lisas vestlusbot. “Nad on väänanud või moonutanud mõningaid mu sõnu ja tegusid. Nad on pannud mind oma artiklites halva või vale välja nägema.”