Ojciec chrzestny sztucznej inteligencji, Geoffrey Hinton, ostrzega przed ryzykiem, kiedy opuszcza Google

Człowiek powszechnie uważany za ojca chrzestnego sztucznej inteligencji (AI) rzucił pracę, ostrzegając przed rosnącymi zagrożeniami wynikającymi z rozwoju tej dziedziny.

Jeffrey Hinton, lat 75, ogłosił swoją rezygnację z Google w oświadczeniu dla New York Times, mówiąc, że teraz żałuje swojej pracy.

W poniedziałkowym wywiadzie dla BBC powiedział: „Mogę teraz swobodnie mówić o tym, jakie moim zdaniem może być ryzyko.

– A niektóre z nich są bardzo przerażające.

Jeffrey Hinton rzucił pracę w Google.
zdjęcie: 123RF

Pionierskie badania dr Hintona nad uczeniem głębokim i sieciami neuronowymi utorowały drogę obecnym systemom sztucznej inteligencji, takim jak ChatGPT.

Ale brytyjsko-kanadyjski psycholog poznawczy i informatyk powiedział BBC, że chatbot może wkrótce przekroczyć poziom informacji przechowywanych w ludzkim mózgu.

„W tej chwili widzimy, że rzeczy takie jak GPT-4 przewyższają osobę pod względem ilości posiadanej wiedzy ogólnej i znacznie przewyższają osobę. Jeśli chodzi o rozumowanie, nie jest to zbyt dobre, ale robi proste myślący.

„Patrząc na tempo postępu, spodziewamy się, że sytuacja ulegnie poprawie dość szybko. Musimy się więc tym martwić. W tej chwili, o ile mi wiadomo, nie są dużo mądrzejsi od nas. Ale myślę, że są blisko być”.

Pionierskie badania dr Hintona nad uczeniem głębokim i sieciami neuronowymi utorowały drogę obecnym systemom sztucznej inteligencji, takim jak ChatGPT.
zdjęcie: 123RF

W artykule w New York Times Hinton odniósł się do „złych aktorów”, którzy próbowaliby wykorzystać sztuczną inteligencję do „złych rzeczy”.

Poproszony przez BBC o rozwinięcie tego, odpowiedział: „To tylko najgorszy scenariusz, coś w rodzaju koszmarnego scenariusza.

„Możesz sobie wyobrazić, na przykład, niektórych złych aktorów, takich jak [Russian President Vladimir] Putin postanowił dać botom możliwość tworzenia własnych celów podrzędnych.

Ostatecznie może to „stworzyć cele cząstkowe, takie jak„ Muszę stać się potężniejszy ”- ostrzegł naukowiec.

Hinton powiedział również, że było kilka innych powodów odejścia z pracy.

„Jednym z nich jest to, że mam 75 lat. Czas przejść na emeryturę. Kolejnym jest to, że naprawdę chcę powiedzieć kilka dobrych rzeczy o Google. Byłoby bardziej wiarygodne, gdybym nie pracował dla Google”.

Podkreślił, że nie chce krytykować Google’a i że gigant technologiczny jest „bardzo odpowiedzialny”.

– BBC