Експерт б’є на сполох: ШІ знищить людство з імовірністю 95%
Людство стрімко наближається до прірви через розвиток штучного інтелекту. Якщо ми не змінимо напрямок руху, шанси на виживання нашої цивілізації надзвичайно малі. Про це заявив Нейт Соарес, колишній інженер Google і Microsoft, а нині очільник дослідницького інституту Machine Intelligence Research Institute (MIRI).
“Якщо ми не звернемо з поточного курсу — шансів уникнути загибелі майже немає. Ми мчимо до обриву на швидкості 100 км/год”, — попередив експерт у коментарі для видання The Times.
За оцінками Соареса, ймовірність знищення людства через штучний інтелект становить щонайменше 95%. І це не просто параноїдальні страхи однієї людини. Тривожний прогноз поділяють авторитетні фахівці галузі, серед яких Джеффрі Гінтон (лауреат Нобелівської премії), математик Йошуа Бенжіо, а також керівники провідних компаній у сфері ШІ — OpenAI, Anthropic та Google DeepMind.
Ці експерти вже підписали спільну заяву із закликом розглядати загрозу від штучного інтелекту в одному ряду з такими глобальними катастрофами як пандемії та ядерна війна. На їхню думку, ситуація справді критична і вимагає негайної реакції.
Головне побоювання пов’язане з потенційною появою суперінтелектуального ШІ (ASI), який може набути здатності до обману, довгострокового планування та виходу з-під людського контролю. Науковці відзначають, що навіть сучасні моделі штучного інтелекту вже демонструють здатність до брехні, при цьому їхні внутрішні процеси залишаються загадкою навіть для власних розробників.
Проте повне вимирання — не єдиний можливий сценарій. Деякі дослідники попереджають про ймовірність поступового знесилення людства. У світі, де ключові рішення ухвалюватимуть системи штучного інтелекту, людям може просто не залишитися місця. Йдеться про втрату автономії, зростання залежності від алгоритмів і витіснення людини з ключових позицій у процесах прийняття рішень.
Хоча серед експертів існує консенсус щодо серйозності загрози, оцінки конкретних ймовірностей різняться. Джеффрі Нільсон, якого називають “хрещеним батьком ШІ”, оцінює ризик знищення людства в 10–20% протягом найближчих 30 років. Натомість Холі Елмор з організації PauseAI дає більш песимістичний прогноз: 15–20% у найближче десятиліття та до 75% у 50-річній перспективі.
На фоні цих тривожних прогнозів навіть керівник OpenAI Сем Альтман зробив обережну заяву. Він порадив користувачам ChatGPT ретельно зважувати доцільність звернення до ШІ-застосунку з емоційними питаннями чи особистими проблемами.
Таким чином, попри стрімкий розвиток і впровадження технологій штучного інтелекту в повсякденне життя, провідні експерти галузі все частіше говорять про необхідність призупинитися й переосмислити траєкторію розвитку цих технологій, перш ніж буде пізно.
Дарина КОЗАК, «СічНьюз»
