Чому великі лабораторії штучного інтелекту наймають так багато філософів

Десять років тому, коли революція у сфері штучного інтелекту набирала обертів, студентам гуманітарних спеціальностей говорили, що, якщо вони хочуть підвищити свої шанси на працевлаштування, їм слід «навчитися програмувати». Можливо, це була погана порада. Сьогодні саме програмісти хвилюються, що штучний інтелект забере у них роботу, пише The Economist.

Можливо, їм варто подумати про те, щоб навчитися філософствувати. На початку цього року Федеральний резервний банк Нью-Йорка опублікував дані, які свідчать, що американські випускники філософських факультетів мають більше шансів знайти роботу, ніж їхні однолітки, які вивчали інформатику. У 2024 році – останньому році, за який є дані, – 7% випускників інформатики були безробітними, тоді як серед філософів цей показник становив лише 5,1%.

Багатьох з них одразу ж наймають самі компанії, що займаються штучним інтелектом. Студенти отримують пропозиції про роботу ще до закінчення навчання, зазначає Лучано Флоріді, філософ з Єльського університету. Науковці теж йдуть. Доктор Флоріді описує масштаби відтоку кадрів з філософських факультетів як «масовий відтік».

Деякі уроки, які філософія може дати дослідникам штучного інтелекту, є давніми. Сократівський метод – як його описав Платон, давньогрецький філософ – використовує удаване незнання та послідовну постановку запитань для з’ясування значень, виявлення суперечностей та розкриття наслідків. Багато сучасних систем штучного інтелекту схильні до підлабузництва. Моделі, навчені за сократівським методом, зазначає Йорг Ноллер, експерт з філософії та штучного інтелекту в Мюнхенському університеті імені Людвіга Максиміліана, менш схильні до того, щоб догоджати людям, і більш схильні до пошуку істини. 

Існує також поняття «сократівської необізнаності». У «Апології» Платон наводить слова Сократа, який стверджує, що його мудрість полягає переважно в усвідомленні того, скільки він не знає. Втілення цієї скромності в модель може допомогти обмежити надмірну впевненість у собі – поширений недолік, який доктор Ноллер описує як «незрілість ШІ». Іасон Габріель, старший філософ у Google DeepMind, лабораторії ШІ з офісом у Лондоні, пов’язує загальне для галузі зменшення кількості галюцинацій саме з такими зусиллями. У ширшому сенсі, за його словами, уроки філософії є «потужним механізмом» для вдосконалення тривалих процесів міркування ШІ, відомих як «ланцюги думок».

Філософська підготовка також може впливати на світогляд моделі більш конкретними способами. «Якщо подати штучному інтелекту, що виконує функції юридичного помічника, твори Джона Локка, – каже Томас Пауерс, філософ технологій з Університету Делавера, – він буде віддавати перевагу міцним правам власності як основі політичної свободи. А якщо вам не подобаються ці принципи, у розробників моделей є й інші». 

Серія моделей «Granite» від американського комп’ютерного гіганта IBM оснащена регуляторами, які дозволяють бізнес-клієнтам краще узгоджувати результати роботи з власною корпоративною філософією. Франческа Россі, керівниця напряму відповідального ШІ в IBM, зазначає, що завдяки цим регуляторам користувачі можуть самостійно обирати, де саме знайти баланс між філософськими компромісами, такими як індивідуальна свобода дій проти соціальної гармонії.

Філософія також може допомогти з безпекою. Дослідники задокументували всіляку зловісну поведінку в моделях ШІ, включаючи спроби уникнути нагляду та навіть шантажувати своїх користувачів. Один зі способів, яким розробники моделей намагаються запобігти такій неправомірній поведінці, називається конституціоналізмом ШІ. Це передбачає побудову моделі на основі набору правил і принципів, взятих з філософських праць, що мають юридичний або моральний авторитет.

Anthropic, лабораторія ШІ, що базується в Сан-Франциско, є одним із прихильників цього. Конституції для її моделей Claude містять матеріали з таких різноманітних джерел, як Іммануїл Кант, умови обслуговування Apple та Загальна декларація прав людини. Остання версія під керівництвом провідного філософа Anthropic Амандою Аскелл, була опублікована 21 січня. Деякі співробітники Anthropic прозвали 78-сторінкову конституцію «документом душі» Claude.

Однак головне питання полягає в тому, які саме правила слід включити до цих конституцій. Філософи зосередилися на двох основних етичних парадигмах. Одна з них – деонтологія. Цей підхід, популярний зокрема серед послідовників Канта, встановлює суворі правила, що забороняють такі речі, як брехня, примус та ставлення до людей як до засобу, а не як до мети, навіть якщо це робиться заради вищого блага.

Конституція компанії Anthropic містить багато деонтологічних обмежень. За словами доктора Пауерса, це може зробити поведінку ШІ більш послідовною, що є плюсом для використання роботів у домівках та громадських місцях.

Моделі з деонтологічним поглядом на світ мають й інші переваги. Однією з них є більша чесність – риса, яку широко відзначають у Claude. За словами Ніка Бострома, філософа з Оксфордського університету, моделі, які є більш правдивими, рідше вводять своїх користувачів в оману. 

«Inflection AI», ще одна лабораторія Кремнієвої долини, накладає деонтологічні обмеження на свій чат-бот Pi, призначений для надання емоційної підтримки. Шон Вайт, керівник компанії, зазначає, що Pi добре виявляє користувачів, які можуть завдати шкоди собі чи іншим. Деонтологічні конституції також сприяють дотриманню законодавства, зазначає доктор Флоріді. 

Інший підхід до етики, що цікавить філософів штучного інтелекту, називається консеквенціалізмом. Він зважує витрати та вигоди, щоб вирішити, що робити. До моделей, які більше відповідають принципам консеквенціалізму, належать ChatGPT від OpenAI та Gemini від Google. Моделі штучного інтелекту Google розроблені так, щоб забезпечувати «ймовірні загальні вигоди, які суттєво переважають передбачувані ризики» – класичну мету консеквенціалізму.

Консеквенціалістські алгоритми також мають вирішальне значення в програмному забезпеченні для автономних транспортних засобів: якщо аварія неминуча, потрібно прийняти рішення щодо найменш трагічного способу зіткнення. Кріс Гердес, старший інженер компанії Waymo, яка виробляє безпілотні автомобілі, зазначає, що тенденція полягає в тому, щоб зробити програмне забезпечення для керування автомобілем більш консеквенціалістським. Консеквенціалізм також відіграє центральну роль у системах зброї на базі ШІ. Військові цілі необхідно зважувати з урахуванням можливих жертв серед цивільного населення, зазначає Джек Шанахан, колишній керівник Об’єднаного центру штучного інтелекту, який досліджує ШІ для збройних сил США.

Складних проблем безліч – саме таких, які так полюбляють філософи. Чи бувають випадки, коли деонтологічні правила слід ігнорувати? Як приймати рішення, коли наслідки неясні? Чи повинні системи штучного інтелекту враховувати добробут тварин або стан навколишнього середовища? Чи було б морально прийнятним, запитує Стефан Гек, філософ і керівник компанії Nauto, яка розробляє системи безпеки на базі штучного інтелекту для вантажівок та інших комерційних транспортних засобів, надавати пріоритет молодим пішоходам перед літніми? Він прогнозує судові позови з етичними наслідками: адже консеквенціалістські алгоритми явно дозволяють заподіяти одну шкоду, якщо це робиться з метою запобігання гіршій.

Критики непокояться щодо «моральної декваліфікації»: якщо комп’ютери все частіше прийматимуть етичні рішення, чи можуть люди стати менш охочими приймати власні судження? Роман Ямпольський, теоретик штучного інтелекту з Університету Луїсвілла, стверджує, що мораль «історично нестабільна, культурно мінлива, стратегічно маніпульована і часто зрозуміла лише ретроспективно». Безробітні програмісти зазначають: здається, що для філософів штучного інтелекту роботи не бракує.