„Ojciec chrzestny AI” bije na alarm. Twierdzi, że sztuczna inteligencja może przejąć kontrolę

„Znajduję się w niezręcznej sytuacji, bo muszę przyznać rację Elonowi Muskowi: istnieje 10 do 20 procent szans, że AI nas przejmie. Ale to tylko intuicyjny szacunek” – stwierdził Geoffrey Hinton podczas rozmowy w programie CBS Saturday Morning.

„Ludzie jeszcze nie zrozumieli, co nadchodzi”

Geoffrey Hinton, jeden z trzech „ojców chrzestnych AI”, po raz kolejny zabrał głos w sprawie zagrożeń, jakie jego zdaniem niesie szybki i słabo regulowany rozwój tej technologii. Jego zdaniem ryzyko przejęcia kontroli przez sztuczną inteligencję wynosi od 10 do 20 procent.

Ludzie jeszcze tego nie pojęli, nie zrozumieli, co nadchodzi. Najlepszym porównaniem jest sytuacja osoby, która ma urocze tygrysiątko. Jeśli nie możesz być absolutnie pewny, że nie spróbuje cię zabić, gdy dorośnie, to masz powody do niepokoju. Geoffrey Hinton w programie CBS Saturday Morning

Przeczytaj też: Jaki czytnik e-book wybrać?

Twórca ostrzega przed własnym dziełem

To właśnie na pomysłach Hintona powstały techniczne fundamenty modeli takich jak ChatGPT – opracował on m.in. pierwszą praktyczną metodę trenowania głębokich sieci neuronowych.

Mimo ogromnego wkładu w rozwój technologii, już od kilku lat Hinton publicznie ostrzega przed jej ciemniejszą stroną technologii. W 2023 roku odszedł z Google, by móc swobodnie mówić o zagrożeniach, nie szkodząc byłemu pracodawcy.

Spójrz, gdzie byliśmy pięć lat temu i gdzie jesteśmy teraz. Wyobraź sobie ten postęp za kolejne pięć lat. To przerażające. Geoffrey Hinton w programie CBS Saturday Morning

Hinton nie ukrywa, że jego niepokój budzi przede wszystkim połączenie sztucznej inteligencji z militariami. Wskazuje, że technologia jest coraz częściej integrowana z bronią i pojazdami wojskowymi, a firmy technologiczne bardziej skupiają się na pokonaniu konkurencji niż na bezpieczeństwie.

Znajduję się w niezręcznej sytuacji, bo muszę przyznać rację Elonowi Muskowi: istnieje 10 do 20 procent szans, że AI nas przejmie. Ale to tylko intuicyjny szacunek. Geoffrey Hinton w programie CBS Saturday Morning

Choć Musk dziś częściej pojawia się w sądach niż w debatach o bezpieczeństwie AI, Hinton podziela jego dawne obawy o potencjalny „scenariusz końca świata”.

Google nie wywiązało się z obietnic?

Hinton podkreśla, że największe firmy AI zbyt pobieżnie traktują kwestie potencjalnych zagrożeń. Jego zdaniem około jedna trzecia mocy obliczeniowej powinna być skierowana na badania nad bezpieczeństwem, podczas gdy obecnie to „jedynie mały ułamek”.

Szczególnie krytykuje Google za złamanie wcześniejszych deklaracji dotyczących użycia AI.

Patrzę na to, co robią dziś wielkie firmy – lobbują na rzecz mniejszej regulacji. A przecież już teraz niemal jej nie ma. Google obiecywało, że nigdy nie pozwoli, by jego AI trafiła do zastosowań wojskowych. Teraz zmienili politykę i drzwi są otwarte. Geoffrey Hinton w programie CBS Saturday Morning

Choć Hinton ostrzega przed zagrożeniami, nie jest przeciwnikiem sztucznej inteligencji – uważa, że może ona przyczynić się do przełomów w edukacji, medycynie czy walce ze zmianami klimatu – podobnie jak Bill Gates.

Jednak z trójki „ojców chrzestnych” to właśnie on najczęściej mówi o potencjalnych zagrożeniach. Nie wszyscy jednak podzielają jego obawy.

„Te wszystkie opowieści o zagładzie to niedorzeczność” – powiedział profesor LeCun w 2023 roku, odnosząc się do obaw o przyszłość AI.

Źródło: CBS Mornings. Zdjęcie otwierające: Jennifer 8. Lee / Creative Commons Attribution-Share Alike 4.0

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł „Ojciec chrzestny AI” bije na alarm. Twierdzi, że sztuczna inteligencja może przejąć kontrolę pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.