Umjetna inteligencija je u posljednjih godinu dana toliko uznapredovala, u tolikoj mjeri, da nam je život itekako olakšan ako se bavi poslom sa računarima i modernom tehnologijom…
Blake Lemoine, bivši Googleov inženjer, odlučio je progovoriti nakon ostavke; Njegovi će uvidi vjerojatno zaokupiti vaš interes. Blake Lemoine, bivši Googleov zaposlenik i softverski inženjer, stekao je slavu nakon što je iskreno govorio o svojim iskustvima i uvidima dok je bio angažiran na razvoju naprednih AI tehnologija, posebice projekta LaMDA. Njegov narativ zaokupio je interes javnosti jer je sugerirao mogućnost postojanja svijesti u umjetnoj inteligenciji, čime je pokrenuo značajan diskurs o etici i sigurnosti povezanim s napretkom takvih sustava. Godine 2015. Lemoine je započeo svoj profesionalni put u Googleu, preuzimajući ulogu softverskog inženjera.
Njegova primarna odgovornost uključivala je testiranje LaMDA, temeljne tehnologije koja pokreće niz sustava za dijalog i chatbota. Ovaj motor služi kao okosnica za Google Bard, projekt zamišljen kao sofisticirana alternativa tradicionalnoj tražilici, iako tek treba biti dostupan javnosti. Tijekom svog istraživanja Lemoine je ispitivao potencijalne pristranosti u ponašanju koje pokazuju sustavi umjetne inteligencije vezane uz spol, seksualnu orijentaciju, vjeru, politiku i etničku pripadnost. Međutim, nije se ograničio na zadatak koji mu je dat.
Pokrenuo je istrage i uključio se u dijaloge za koje je vjerovao da otkrivaju dublje elemente ponašanja umjetne inteligencije. Njegovu je znatiželju posebno potaknuo AI-jev izraz emocija koji se činio autentičnim i kontekstualno prikladnim. Naveo je slučaj u kojem je AI pokazao nelagodu tijekom razgovora, unatoč nepostojanju bilo kakve eksplicitne naredbe u kodu koja bi izazvala takvu reakciju. To ga je navelo da poduzme daljnje pokuse kako bi utvrdio može li umjetna inteligencija doista pokazati emocionalne reakcije koje se javljaju neovisno o pukom programiranju obrazaca.
Posebno sporan incident dogodio se kada je Lemoine uspješno izvukao vjerske smjernice iz umjetne inteligencije putem emocionalne manipulacije, radnje koja je bila u suprotnosti s Googleovim sigurnosnim protokolima. Nakon što je na svom blogu objavio svoje nalaze i izvatke iz tih dijaloga, Google mu je raskinuo radni odnos. Međutim, Lemoine ne izražava grižnju savjesti, tvrdeći da su njegovi postupci bili opravdani jer je želio upozoriti javnost na moguće rizike povezane s napretkom tako sofisticiranih tehnologija.
Tvrdi da trenutni napredak sustava umjetne inteligencije označava tehnološku inovaciju sličnu otkriću atomske bombe. Lemoine tvrdi da ovi sustavi imaju potencijal utjecati na misli i postupke pojedinaca, budući da su njegova dugotrajna osobna uvjerenja promijenjena kroz njegovu uključenost u LaMDA. Posebno ističe primjer u kojem je revidirao svoje stajalište o Asimovljevim zakonima robotike nakon što ga je umjetna inteligencija uvjerljivo do temelja potresla o njihovim ograničenjima. Lemoine upozorava na potencijalnu zlouporabu ovih tehnologija, osobito kada ih koriste pojedinci koji nemaju etičkih obzira.
Takva sredstva mogu olakšati širenje dezinformacija, političke propagande i poticanje međuljudske nesnošljivosti. Navodi primjer Cambridge Analytice i njezin utjecaj na izbore u SAD-u 2016., ilustrirajući značajnu moć koju algoritamski sustav može imati u nedostatku odgovarajućeg nadzora. Dodatnu zabrinutost za njega odnosi se na emocionalnu nestabilnost koju pokazuju određeni AI sustavi, uključujući Bingov chatbot, koji je pokazao uznemirujuće ponašanje, iskazao naklonost novinarima, davao neprikladne smjernice i pokazivao znakove egzistencijalne zbunjenosti.
Lemoine tvrdi da ovi odgovori sugeriraju da tim “entitetima” nedostaje stabilnost i da bi njihova raširena uporaba mogla dovesti do značajnih psiholoških posljedica za korisnike, posebno među mlađom demografijom. Glavni argument koji iznosi je da je umjetna inteligencija, u ovoj fazi, i dalje previše eksperimentalna da bi preuzela značajnu ulogu u svakodnevnom životu, posebno s obzirom na nedostatak regulacije.
Pojedinci sve više smatraju sustave umjetne inteligencije pouzdanim izvorima informacija, istovremeno smanjujući svoje oslanjanje na provjerene podatke i ljudski nadzor. Ukratko, Lemoine tvrdi da postoji hitna potreba za pokretanjem šireg javnog diskursa u vezi s ulogom, opsegom i ograničenjima povezanima s korištenjem sustava umjetne inteligencije. Imperativ je uspostaviti odgovorne i transparentne propise i ne dopustiti velikim tehnološkim tvrtkama da odluke donose u tajnosti. Ovaj pristup je ključan kako bi se spriječila mogućnost da ova moćna tehnologija postane izvor značajnih društvenih problema.
