Дослідники компанії Meta стверджують, що їхні системи штучного інтелекту (ШІ) почали самовдосконалюватися без жодного втручання людини. Ці спостереження, за словами генерального директора Meta Марка Цукерберга, були зроблені протягом останніх кількох місяців. Хоча прогрес поки повільний, він є беззаперечним. Цю інформацію було опубліковано 30 липня в аналітичному документі на вебсайті компанії.
Марк Цукерберг — американський підприємець, програміст та філантроп. Він є співзасновником, головою ради директорів та генеральним директором компанії Meta Platforms (раніше відомої як Facebook, Inc.).
Meta — це американська багатонаціональна технологічна компанія, яка володіє такими відомими платформами, як Facebook, Instagram, WhatsApp та Oculus.
Штучний інтелект (ШІ) — це широка галузь комп’ютерних наук, що займається розробкою машин, здатних виконувати завдання, які традиційно вимагають людського інтелекту, такі як навчання, розв’язання проблем, розпізнавання мови та образів.
Цукерберг додав, що самовдосконалення ШІ є першим кроком до досягнення штучного суперінтелекту (ШСІ) — штучного інтелекту, здатного перевершити когнітивні здібності людини.
Щаблі розвитку штучного інтелекту
Загалом дослідники ШІ розрізняють три рівні можливостей штучного інтелекту. Хоча сучасні моделі ШІ можуть досягати надзвичайних надлюдських досягнень, як-от прогнозування білкових структур, ці можливості є надзвичайно вузькоспеціалізованими. У таких випадках система може перевершувати людину лише в одній конкретній галузі, але їй бракує загального інтелекту для застосування цих можливостей у різних дисциплінах.
Штучний суперінтелект (ШСІ) — це гіпотетична форма ШІ, що значно перевершує людський інтелект у всіх когнітивних аспектах, включаючи творчість, загальні знання, розв’язання проблем та соціальні навички. Передбачається, що ШСІ зможе мислити, вчитися та адаптуватися на рівні, недосяжному для будь-якої людини.
Наступний рівень називається загальним штучним інтелектом (ЗШІ) і стосується моделей, які можуть розуміти, навчатися та адаптуватися майже так само, як і людський мозок.
Загальний штучний інтелект (ЗШІ) — це гіпотетичний тип ШІ, що володіє здатністю розуміти, навчатися або застосовувати інтелект до будь-якої інтелектуальної задачі, яку може виконати людина. Він відрізняється від вузького ШІ, який спеціалізується на одній конкретній задачі.
ШСІ — це кінцевий стан, на який посилався Цукерберг у своєму дописі. Він стосується моделей, які розвинулися значно вище людського потенціалу і можуть самовдосконалюватися з експоненційною швидкістю, що може призвести до “вибуху інтелекту”. Вчені називають гіпотетичний момент, коли ми досягнемо ЗШІ, технологічною сингулярністю.
Технологічна сингулярність — це гіпотетичний момент у майбутньому, коли технологічний ріст стає неконтрольованим та незворотнім, що призводить до непередбачуваних змін у людській цивілізації. Часто цей момент пов’язують зі створенням штучного супероінтелекту.
Дослідження самовдосконалення ШІ
Посилання Цукерберга на ознаки самовдосконалення ШІ не є першим подібним явищем. У жовтні минулого року дослідники Каліфорнійського університету в Санта-Барбарі опублікували статтю в базі даних препринтів arXiv, присвячену ідеї самовдосконалення.
Каліфорнійський університет у Санта-Барбарі (University of California, Santa Barbara) — це престижний державний дослідницький університет, що входить до системи Каліфорнійського університету. Розташований у Санта-Барбарі, Каліфорнія, США, він відомий своїми сильними програмами в галузі інженерії, природничих наук та мистецтв.
У цій роботі вони визначили, створили та протестували структуру ШІ, засновану на ідеї Машини Геделя — теоретичного пристрою, здатного самовдосконалюватися шляхом переписування власного коду та інструкцій. Важливо, що машина впроваджувала зміни лише в тому випадку, якщо вона могла надати формальний доказ, що ці зміни будуть корисними.
Машина Геделя (Gödel Machine) — це теоретична концепція самовдосконалюваної програми, запропонована вченим Юргеном Шмідхубером. Названа на честь математика Курта Геделя, її ідея полягає в тому, що така машина може рекурсивно покращувати свій власний код і стратегію навчання, але лише за умови, що вона може формально довести, що таке покращення буде корисним для досягнення її цілей.
Команда експериментувала з структурою ШІ, заснованою на цій концепції, і довела, що їхній агент Геделя може покращити власну продуктивність у різних завданнях, включаючи кодування, науку, математику та міркування.
Майже всі моделі ШІ зазвичай не мають можливості переписувати власний код. Проте агент Геделя міг не тільки мати доступ до всієї своєї кодової бази, але й до коду, який використовувався для розробки поліпшень, демонструючи при цьому, що ці поліпшення були корисними. Згідно з дослідженням, ШІ послідовно демонстрував кращі результати у важливих сферах порівняно з агентами, розробленими людьми, з якими його порівнювали.
Оптимізм та обережність щодо майбутнього ШІ
Цукерберг зазначив, що ШСІ може стати перетворювальним кроком у технологічному прогресі людства і призвести до “відкриття нових речей, які сьогодні неможливо уявити”.
Водночас він додав, що Meta буде набагато обережнішою щодо того, які моделі компанія вирішить випускати у відкритий доступ, тобто у вигляді відкритого вихідного коду, що дозволяє будь-кому мати до них доступ.
“Я надзвичайно оптимістичний щодо того, що суперінтелект допоможе людству прискорити темпи прогресу. Але, мабуть, ще важливіше те, що суперінтелект має потенціал започаткувати нову еру особистої спроможності, де люди матимуть більшу свободу дій для покращення світу в обраних ними напрямках”, — написав Цукерберг.
“Наскільки глибоким не був би достаток, створений ШІ, ще більш значущий вплив на наше життя, ймовірно, походитиме від того, що кожен матиме особистий суперінтелект, який допоможе досягти ваших цілей, створити те, що ви хочете бачити у світі, пережити будь-яку пригоду, бути кращим другом для тих, хто вам дорогий, і вирости, щоб стати тією людиною, якою ви прагнете бути.”
