"Kum umjetne inteligencije" napustio Google i upozorava na opasnosti te tehnologije

Informatički naučnik kojeg često nazivaju “kumom umjetne inteligencije” dao je otkaz na poslu u Googleu kako bi progovorio o opasnostima te tehnologije, objavili su američki mediji, prenosi Hina.

Geoffrey Hinton, koji je stvorio temeljnu tehnologiju za sisteme umjetne inteligencije, rekao je za The New York Times da napredak postignut na tom polju znači “duboke rizike za društvo i čovječanstvo”.

"Pogledajte kako je bilo prije pet godina, a kako je sada", citiran je u članku koji je objavljen u ponedjeljak.

"Pogledajte koliki je to iskorak, a dalje ga širite.  To je zastrašujuće", istaknuo je.

Hinton je rekao da natjecanje između tehnoloških divova tjera kompanije da proizvode nove AI tehnologije opasnim brzinama, ugrožavajući radna mjesta i šireći dezinformacije.

"Teško je vidjeti kako možete spriječiti loše aktere da to iskoriste za loše stvari", rekao je za Times.

Godine 2022. Google i OpenAI – start-up koji stoji iza popularnog AI chatbota ChatGPT – počeli su graditi sisteme koristeći puno veće količine podataka nego prije.

Hinton je za Times rekao kako vjeruje da ti sistemi na neki način zasjenjuju ljudsku inteligenciju zbog količine podataka koje analiziraju.

"Možda je ono što se događa u tim sistemima zapravo puno bolje od onoga što se događa u mozgu", rekao je novinama.

Širenje dezinformacija

Iako se umjetna inteligencija koristi za podršku ljudskim radnicima, brzo širenje chatbota poput ChatGPT-a moglo bi ugroziti radna mjesta.

AI "oduzima težak posao", ali “može oduzeti više od toga”, rekao je za Times.

Naučnik je također upozorio na potencijalno širenje dezinformacija koje stvara AI, rekavši za Times da prosječna osoba “više neće moći znati šta je istina”.

Hinton je obavijestio Google o svojoj ostavci prošli mjesec, objavio je Times.

Jeff Dean, vodeći naučnik za Google AI, zahvalio je Hintonu u izjavi američkim medijima.

"Kao jedna od prvih kompanija koja je objavila načela umjetne inteligencije, ostajemo predani odgovornom pristupu umjetnoj inteligenciji", dodaje se u izjavi.

"Neprekidno učimo suočavati se s novim rizicima, dok istodobno hrabro unapređujemo", istaknuo je.

U martu su tehnološki milijarder Elon Musk i niz stručnjaka pozvali na stanku u razvoju AI sistema kako bi se omogućilo vrijeme u kojemu bi se provjerilo i uvjerilo jesu li sigurni.

Otvoreno pismo, koje je potpisalo više od 1000 ljudi, uključujući Muska i suosnivača Applea Stevea Wozniaka, potaknulo je izdavanje GPT-4, puno moćnije verzije tehnologije koju koristi ChatGPT.

Hinton u to vrijeme nije potpisao to pismo, ali je za The New York Times rekao da naučnici ne bi trebali “povećati ovo dok ne shvate mogu li to kontrolirati”.