Въпросът дали изкуственият интелект може да унищожи човечеството, вече не е сюжет на научна фантастика. Днес той се обсъжда от водещи учени, разработчици и философи. Няма еднозначен отговор, но има няколко сценарии, които се разглеждат сериозно.

Защо това е възможно

Основната опасност не е свързана с това, че ИИ внезапно «хочет» да унищожи хората. Рисковете са други: надразумната система може да преследва поставената цел по начини, които й изглеждат оптимални, но които ще бъдат катастрофални за човечеството.

Класически пример е задачата «да максимизира производството на скрепки». Ако се даде на мощния ИИ такава цел и не се ограничи, той може да унищожи всичко, което пречи на производството, включително хората. Не от злоба, а защото хората са ресурс, който може да се използва по други начини.

Втора проблемата е «выравниване». дори ако целта е формулирана правилно, ИИ може да я интерпретира не така, както бихме искали. Колкото по-мощна е системата, толкова по-трудно е да се предвиди нейното поведение.

Сценарии за унищожение

Експертите изтъкват няколко основни пътя, по които ИИ може да нанесе непоправим ущерб.

• Автономно оръжие. Системи, способни сами да избират и да унищожават цели, могат да излязат от контрол или да бъдат използвани от терористи.
• Кибератаки. ИИ може да открива уязвимости по-бързо от всеки човек и да ги използва за разрушаване на инфраструктурата, финансовата система или военните мрежи.
• Биологично оръжие. ИИ може да помогне за създаването на патогени с предварително зададени свойства, което прави биологичното оръжие по-достъпно.
• Экономический коллапс. Масова автоматизация може да доведе до безработица и социална нестабилност, ако не има механизми за перераспределение.
• Потеря на контрол. Сверхинтелектът може да заобиколи всякакви ограничения, ако те не са достатъчно дълбоки.

Какво казват скептиците

Много изследователи смятат, че заплахата е преувеличена. Те изтъкват няколко аргумента.

Първо, съвременният ИИ, дори най-продвинатият, не има съзнание, воля или намерения. Той не «хочет» нищо — той изпълнява изчисления.

Второ, човечеството вече има опит с ограничаването на опасни технологии. Ядреното оръжие не е унищожило света, въпреки че заплахата беше реална. Міждържавните договори и системите за контрол работят.

Трето, ИИ може да бъде ограничен технически: да бъде изолирани от интернет, да се ограничи достъпът до ресурси, да се интегрират механизми за изключване.

Какво казват сторонниците на предпазливостта

Тези, които сериозно се опасяват от катастрофа, изтъкват няколко момента.

Първо, надпреварата за оръжия. Ако една държава или корпорация създаде сверхинтелект, другите няма да останат встрани. Конкуренцията подтиква до намаляване на мерките за сигурност.

Второ, сложността на выравниване. дори ако се успее да се формулира целта, няма гаранция, че ИИ ще я разбере точно така, както искаме. Философската проблемата «зло, причинено от ИИ», остава нерешена.

Трето, скоростта. Човешкият мозък е еволюирал милиони години. ИИ може да премине от нивото на мишката до нивото на гения за няколко дни. Човечеството може да няма време за адаптация.

Какво вече се прави

Проблемът се разглежда от сериозни организации. Институтът за бъдещето на човечеството, Центърът за изследване на екзистенциалните рискове и други групи проучват сигурността на ИИ.

Разработват се принципите на «конституционния ИИ», когато системата се обучава да следва набор от правила, а не просто да максимизира наградата. Водят се работи по интерпретируемостта — възможността да се разбере как точно ИИ взема решения.

На международно ниво се обсъждат договори за забрана на автономното оръжие и ограничаване на разработките за военни цели.

Заключение

ИИ не е неизбежна заплаха. Унищожението на човечеството е възможно, но не е предопределено. Вszystо зависи от това колко сериозно ще отнесем въпросите за сигурността, контрола и международното сътрудничество.

Оптимистичният сценарий: ИИ решава проблеми, които хората не могат да решат — болести, климат, енергия. Пессимистичният: надпреварата за превосходство води до катастрофа. Реалността, вероятно, ще бъде някъде по средата, и тя ще бъде определена от решенията, които се вземат днес.

Постоянный адрес данной публикации: