Futurolog z BT: Byt sztucznej inteligencji zdobędzie nagrodę Nobla w 2020 roku

.. / Oprogramowanie: Sztuczna inteligencja/sieci neuronowe

Podobno interesujesz się konwergencją nanonauki, biotechnologii, technologii informacyjnej i podejścia kognitywnego (NBIC). Wiele osób bardzo się tym przejmuje. Na przykład Bill Joy, były CTO Sun, opublikował w 2000 roku w periodyku "Wired" słynny manifest, w którym ostrzegał przed możliwym zagrożeniem istnienia rodzaju ludzkiego w wyniku takiej konwergencji. W "Technologicznej Linii Czasowej" BT czytam, że do lat 2030 wirus nanotechniczny mógłby rozprzestrzenić się za pomocą sieci pomiędzy maszynami i ludźmi. Czy nie byłby to prawdziwy koszmar?

Tak, jeśli tak przedstawia się tę kwestię. Na przykład, my umieściliśmy tę wizję w "Technologicznych Liniach Czasowych", aby podkreślić możliwe drogi rozwoju przyszłej technologii. Ale myślę, że w niektórych przypadkach najprawdopodobniej wprowadzimy przepisy, aby powstrzymać ludzi przed robieniem takich rzeczy. Konwergencja NBIC pozwala na osiągnięcie wielu wspaniałych rzeczy, które przyniosą ludzkości prawdziwe dobrodziejstwa. I podobnie stwarza możliwość wyprodukowania bardzo wyrafinowanej broni, a wraz z nią przeróżnych przerażających scenariuszy. W swoim artykule Bill Joy chciał uwypuklić tę realną możliwość. Więc w pewnym momencie będziemy musieli się zastanowić, jak zapobiec możliwym katastrofom, będziemy musieli zastanowić się, jak przekonać rządy krajów na całym świecie, że trzeba prawnie regulować niektóre problemy, aby im zapobiec.

Weź pod uwagę na przykład technologię modyfikacji genetycznej. Rządy mogą się w tej sprawie dogadać, mogą zawrzeć pewne umowy, choć zawsze jakieś kraje się z nich wyłamią. Na przykład w większości krajów klonowanie ludzi jest nielegalne i bardzo ogranicza się modyfikację genetyczną. Oczekiwałbym, że podobnie stanie się w przypadku Konwergencji NBIC: naukowcom zabroniłoby się dostępu do takiego poziomu technologicznego, który mógłby doprowadzić do stworzenia zagrożenia nanowirusowego albo czegoś równie groźnego.

Można by przypuścić, że w tym momencie wielu ludzi głosowałoby za wstrzymaniem rozwoju jakiejkolwiek sprytnych nowych technologii. Ale pewnie wprowadzi się ostre restrykcje w dziedzinie NBIC. Problem w tym, że mnóstwo takich zaawansowanych technologii trudno będzie nadzorować. Więc nawet, jeśli międzynarodowe traktaty i tym podobne działania je zdelegalizują, to jak będzie można nadzorować, co ktoś robi w swoim garażu? A mielibyśmy do czynienia z niewielką ilością sprzętu i kimś bardzo sprytnym... Nie można kontrolować tego przy użyciu satelity, bo trudno byłoby zobaczyć to, co by się działo. Pod tym względem niewiele można zdziałać, można tylko przyjąć pewien poziom ryzyka. Ale to nic nowego. Jeśli jakaś technologia zaistnieje, albo chociaż będzie próbowała zaistnieć, to staje się oczywiste, że wystarczy paru sprytnych gości w jakimś kącie, którzy na pewno coś wymyślą. Czy można im tego zabronić?

Tak więc, cała ta myśl o konwergencji NBIC w formie ekstremalnej wirusowej sztucznej inteligencji, świadomych maszyn, nad-ludzi, nano-asemblerów, genetycznej modyfikacji... połączenie tego wszystkiego daje różne możliwości, a my tylko możemy zdecydować, jak ich użyć, choć i w tym względzie nasze możliwości mogą być ograniczone. Więc w pewnym stopniu zgodziłbym się z Billem Joy. Nie sądzę, żebyśmy znaleźli rozwiązanie tego problemu. W tej chwili nie widzimy nawet takiego rozwiązania. Myślę, że poruszyliśmy tu bardzo ważną kwestię.

W 2001 roku Stephen Hawking bronił pomysłu ulepszania naszego gatunku w celu konkurowania z inteligentnymi maszynami. Czy wierzysz, że genetyczne ulepszanie będzie możliwe albo nawet potrzebne?

Coraz lepiej rozumiemy, jak skonstruowany jest człowiek pod względem białek i całej tej chemii, jak funkcjonują procesy, które wiążą się z życiem. Ten proces przyspieszy w następnym dziesięcioleciu, jest więc bardzo prawdopodobne, że będziemy mieli możliwości modyfikowania ludzi. Ale znowu musimy być w stanie to kontrolować w jakimś stopniu, choć powinniśmy móc wprowadzać pewne pożądane drobne zmiany genetyczne. Na przykład, ludzie będą chcieli zmian genów, które są użyteczne, na równi z tymi, które nie są. Nie wiem, jak można rozwiązać ten problem - większość naukowców nie wie.

Powinniśmy móc pobierać geny z innych organizmów i modyfikować, mieszając je z innymi. Ale w końcu będziemy mogli posunąć się jeszcze dalej, kiedy zrozumiemy podstawy działania genów i poznamy działania natury, która rozwijała się swobodnie przez eony. Powinniśmy też projektować geny od samego początku, aż do osiągnięcia założonych celów.

Będziemy musieli osiągnąć wielkie umiejętności, jeśli chcemy decydować, jak będą wyglądać ludzie, albo jakie mają mieć charaktery. Jest jednak bardzo możliwe, że z czasem będziemy umieli to robić. Będziemy modyfikować ludzi, a w końcu osiągniemy bardzo ulepszone ludzkie umiejętności. Pozostaje pytanie: Jak daleko się posuniemy, zanim uznamy, że chcemy, aby ludzie po modyfikacji genetycznej mogli podłączać się bezpośrednio do maszyn? Czy chcemy, żeby podłączali się do internetu w 2050 r. czy 2060 r. po prostu myślami, a tym samym, żeby komunikowali się z innymi telepatycznie? Czemu by nie pójść w tym kierunku? To było ciekawe, jeśli będziemy mieć zarówno umiejętności, jak i możliwość osiągnięcia takich rozwiązań.