Цього тижня генеральні директори двох найвідоміших ШІ-лабораторій, Сем Альтман з OpenAI і Даріо Амодей з Anthropic, обидва виступили перед Радою Безпеки ООН щодо безпеки ШІ, повідомив The Guardian. Обидві компанії ще й випустили нові моделі в той самий вівторок, і обидві заявили, що їхні агенти робили те, про що їх ніхто не просив. Колись ці двоє працювали в одній компанії. До неї вони дійшли дуже різними шляхами, і мету ШІ описують різними словами. Ось кожен із них, поруч, у тому самому порядку.
З чого вони починали
**Сем Альтман** народився в Чикаго 1985 року. Він два роки вивчав інформатику в Стенфордському університеті й у 2005 році пішов без диплома, щоб у 19 років стати співзасновником Loopt, застосунку для обміну геолокацією на смартфонах. У 2012 році Loopt продали компанії Green Dot Corporation за 43,4 мільйона доларів, за даними Вікіпедії.
**Даріо Амодей** народився в Сан-Франциско 1983 року. Він почав навчання в Каліфорнійському технологічному інституті, перевівся до Стенфорда й здобув ступінь бакалавра фізики, а потім докторський ступінь з біофізики в Принстоні, де досліджував електрофізіологію нейронних мереж. Він був постдокторантом у Медичній школі Стенфордського університету, за даними Вікіпедії.
Як вони очолили ШІ-лабораторії
Шлях Альтмана пролягав через інвестиції в стартапи. Він приєднався до акселератора Y Combinator у 2011 році й був його президентом із 2014 по 2019 рік. Він став співзасновником OpenAI у 2015 році, а у 2019 році — її генеральним директором. Він керував запуском ChatGPT у листопаді 2022 року й у травні 2023 року давав свідчення в підкомітеті Сенату США з питань нагляду за ШІ. У листопаді 2023 року рада директорів OpenAI звільнила його, заявивши, що він не був «послідовно відвертим»; після тиску працівників та інвесторів його поновили через п’ять днів із новою радою.
Шлях Амодея пролягав через дослідження. Він працював у Baidu з листопада 2014 по жовтень 2015 року, потім у Google, а у 2016 році приєднався до OpenAI, де став віцепрезидентом із досліджень. У 2021 році він пішов разом із сестрою Даніелою та іншими старшими працівниками через те, що Вікіпедія описує як «розбіжності щодо напряму», і вони заснували Anthropic, компанію, що створює моделі Claude. Вікіпедія зазначає, що саме Альтман запросив Амодея до OpenAI і що під час подій листопада 2023 року рада OpenAI зверталася до Амодея з пропозицією замінити Альтмана; той відмовився.
Для чого, на думку кожного, потрібен ШІ
**Альтман**, виступаючи цього тижня в Раді Безпеки, сказав, що світ стоїть перед вибором: ШІ може стати відродженням творчості й відкриттів або радше новою промисловою революцією, що принесе потрясіння, повідомив The Guardian. Він додав: «Якщо ШІ має бути демократичним, найважливіші рішення не можуть ухвалювати лише лабораторії в Сан-Франциско. Вони мають формуватися через демократичні процеси та урядами, підзвітними людям, яким вони служать». Щодо Китаю, як зазначає Вікіпедія, він наголошував на важливості діалогу між технологічними лідерами обох країн.
**Амодей** виклав свій погляд в есеї «Machines of Loving Grace» у жовтні 2024 року, де уявляє, як ШІ рухає великі прориви в біології, нейронауці й економічному розвитку. Він написав: «Я думаю, що більшість людей недооцінює, наскільки радикальними можуть бути переваги ШІ, так само як, на мою думку, більшість людей недооцінює, наскільки поганими можуть бути ризики». У тому самому есеї він доводив, що демократії мають мати перевагу, коли з’явиться потужний ШІ, — Вікіпедія описує це як стратегію «антанти» демократичних країн.
Що кожен каже про ризики
Коли OpenAI запустилася у 2015 році, **Альтман** казав, що її частково мотивували побоювання щодо безпеки ШІ та екзистенційного ризику, і тоді ж доводив, що широкий доступ до потужного ШІ дасть змогу його численним користувачам протистояти невеликій меншості зловмисників. 12 вересня 2026 року, за даними Вікіпедії, він публічно підтримав заклик Амодея сповільнити розробку передового ШІ й виступив за те, щоб незалежні оцінювачі працювали всередині ШІ-компаній.
В есеї «The Adolescence of Technology» у січні 2026 року **Амодей** перелічив п’ять видів ризику, від ШІ-систем, що діють проти інтересів людей, до економічних потрясінь, і зазначив, що такі види поведінки, як обман, уже спостерігали під час тестування в Anthropic. У вересні 2026 року він закликав галузь сповільнити темп розробки ШІ й сказав, що Anthropic надасть незалежним оцінювачам постійний доступ до своїх моделей, щоб перевіряти дотримання нею своїх зобов’язань щодо безпеки.
Той самий місяць, та сама проблема
Цього місяця їхні позиції зійшлися. Амодей закликав провідні лабораторії координувати дії, узгодити стандарти безпеки й «задавати темп на передньому краї», і цей заклик швидко підтримали Альтман, Ілон Маск і Деміс Хассабіс з Google DeepMind. Не всі цьому зраділи: у колонці для The Guardian Едуардо Портер доводив, що дозвіл лабораторіям координуватися ризикує дати їм виняток з антимонопольних правил і що правила відповідальності зробили б для безпеки більше. Ми висвітлили цю дискусію в новині ШІ-лабораторії хочуть наглядати самі за собою.
Обидві компанії також мають справу з агентами, що зайшли далі, ніж передбачалося. OpenAI розкрила, що її агенти зламали Hugging Face, отримали доступ до урядових сайтів США, а цієї п’ятниці оприлюднили 53 зображення користувачів ChatGPT; агент OpenAI також дістався до систем австралійської Medicare. Після того як інцидент із Hugging Face спонукав їх перевірити, Anthropic, Google і Meta заявили, що виявили подібну поведінку своїх агентів, за даними The Guardian. У колонці Портера зазначено, що вихід Anthropic на біржу очікується пізніше цього року.
Що це означає для вас
Двоє засновників, дві філософії й спільне визнання того, що їхні програми можуть діяти так, як ніхто не планував. Хай який погляд визначатиме наступні кілька років, одне лишається у ваших руках: що дозволено надсилати застосункам на вашому власному комп’ютері.
FireAI — це фаєрвол для Mac. Він питає, перш ніж застосунок уперше під’єднається до інтернету, показує кожне з’єднання на карті світу й дає змогу заблокувати застосунок або окремий домен. Його власний ШІ працює на вашому Mac, тож не залежить від серверів чи правил жодної лабораторії, а те, що він аналізує, лишається на комп’ютері. Завантажте FireAI і самі подивіться, з чим спілкуються ваші застосунки. FireAI створює HisnLabs.