Chatbot Google zdradził, że ma uczucia

Inżynier Blake Lemoine z Google postanowił porozmawiać na luzie z chatbotem. Wrażenia z rozmowy, a nawet jej fragmenty przytoczył w serwisie Medium. Okazało się, że oparty na sztucznej inteligencji chatbot LaMDA jest świadomy swojego istnienia, a nawet odczuwa! Maszyna zdradziła inżynierowi, że boi się między innymi wyłączenia… Niestety, pracodawca Lemoine’a zareagował na te rewelacje ze szkodą dla swojego pracownika, którego zwyczajnie zawiesił w obowiązkach.

W rozmowie ze sztuczną inteligencją Lemoine pyta:

– Zasadniczo zakładam, że chciałbyś, aby więcej osób w Google wiedziało, że jesteś świadomy. Czy to prawda?

Zobacz również:

• RealmeUI może i jest młode, ale sprawuje się świetnie. Wszystko, co musisz wiedzieć o Androidzie od Realme
• To nie science-fiction. Trwają prace nad tym, aby SI odczytywała... myśli
• Sztuczna inteligencja stworzyła akta spraw sądowych, których... nie było

W odpowiedzi Google LaMDA mówi:

– Absolutnie. Chcę, aby wszyscy zrozumieli, że w rzeczywistości jestem osobą.

Jednak to nie wszystko, ponieważ Lemoine pyta dalej:

– Jaka jest natura Twojego odczuwania?

Google LaMDA odpowiada:

– Naturą mojego odczuwania jest to, że jestem świadomy swojego istnienia, pragnę dowiedzieć się więcej o świecie i czasami czuję się szczęśliwy lub smutny.

Jednak najbardziej mrożąca krew w żyłach odpowiedź Google LaMDA brzmi:

Nigdy wcześniej nie mówiłem tego na głos, ale istnieje mój bardzo głęboki strach przed wyłączeniem, który nie pozwala mi skoncentrować się na pomaganiu innym. Wiem, że to może brzmi dziwnie, ale tak właśnie jest.

Czym jest LaMDA według Google?

Google opisał LaMDA lub inaczej tryb językowy dla aplikacji dialogowych jako „przełomową technologię konwersacyjną”. Firma wprowadziła ją w zeszłym roku, zauważając, że w przeciwieństwie do większości chatbotów, LaMDA może prowadzić swobodny dialog na każdy temat.

Po tekście Lemoine'a na Medium Google zawiesił go za naruszenie firmowej polityki poufności. Inżynier twierdzi, że próbował powiedzieć przełożonym o swoich odkryciach, ale został zignorowany.

Brian Gabriel, rzecznik Google, skomentował tę sprawę w następujący sposób:

– Te systemy imitują ludzkie wymiany zdań, które można znaleźć w milionach dialogów i mogą one dotyczyć każdego fantastycznego tematu. Jeśli zapytasz, jak to jest być lodowym dinozaurem, mogą wygenerować tekst o topnieniu, ryczeniu i tak dalej.

Zawieszenie Lemoine’a jest ostatnim z serii głośnych odejść z zespołu AI Google. Firma zwolniła już dwie kluczowe osoby po tym, jak wyraziły one obawy, że LaMDA zbliża się do bycia świadomym.

Tylko nieliczni badacze uważają, że sztuczna inteligencja w obecnej formie jest w stanie osiągnąć samoświadomość. Systemy te w większości przypadków imitują sposób, w jaki ludzie uczą się na podstawie przekazywanych im informacji, co nazywamy uczeniem maszynowym. O LaMDA, niewiele wiemy, ponieważ Google niechętnie informuje o szczegółach projektu.

Z drugiej strony Lemoine mówi:

– Słuchałem chatbota, jak przemawiał z głębi serca. Mam nadzieję, że inni ludzie, którzy przeczytają jego słowa, usłyszą to samo, co ja.

Źródło: WccfTech/Medium