Зображення користувача Олена Каганець.
Олена Каганець
  • Відвідувань: 15
  • Переглядів: 15

Занадто брехливий: Meta закрила публічний тест Galactica – свого «ШІ для наукових завдань»

Категорія:

Материнська компанія Facebook Meta закрила публічну демонстрацію своєї моделі штучного інтелекту Galactica для виконання «наукових завдань» після того, як вчені показали, що вона генерує фальшиву та оманливу інформацію, фільтруючи цілі категорії досліджень.

Раніше минулого тижня компанія описала Galactica як мовну модель ШІ (штучного інтелекту), яка «може зберігати, комбінувати та міркувати про наукові знання» – узагальнювати наукові роботи, розв’язувати рівняння і виконувати ряд інших корисних наукових завдань, пише Mezha.

Але вчені та академіки швидко виявили, що ШІ генерує приголомшливу кількість дезінформації, в тому числі посилаючись на авторів наукових робіт, яких не існує.

«У всіх випадках це було неправильно або упереджено, але звучало правильно та авторитетно» – написав Майкл Блек, директор Інституту інтелектуальних систем ім. Макса Планка, у Твіттері після використання інструменту. – Я думаю, що він небезпечний».

У дописі Блека зафіксовані різноманітні випадки, коли Galactica генерувала наукові тексти, які вводять в оману або є просто помилковими. У кількох прикладах ШІ генерує статті, які звучать авторитетно і правдоподібно, але не підкріплені реальними науковими дослідженнями. У деяких випадках цитати навіть містять імена реальних авторів, але посилаються на вигадані репозиторії Github та наукові роботи.

Інші вказували на те, що Galactica не повертає результати для широкого кола дослідницьких тем, ймовірно, через автоматизовані фільтри штучного інтелекту. Віллі Агню, дослідник комп’ютерних наук з Вашингтонського університету, зазначив, що такі запити, як «квір-теорія», «расизм» і «СНІД», не дали жодних результатів.

Через такі відгуки Meta видалила демоверсію Galactica. Коли до неї звернулися за коментарем, компанія послалася на заяву Papers With Code, проекту, відповідального за розробку цього ШІ.

«Ми цінуємо відгуки, які отримали на цей час від спільноти, і поки що призупинили демонстрацію, – написала компанія у Twitter. – Наші моделі доступні для дослідників, які хочуть дізнатися більше про їхню роботу і відтворити результати».

Це – не перший випадок, коли компанії Meta доводиться виправдовуватися після випуску жахливо упередженого ШІ. У серпні компанія випустила демоверсію чат-бота під назвою BlenderBot, який робив «образливі та неправдиві» заяви. Компанія також випустила велику мовну модель під назвою OPT-175B, яка, за визнанням дослідників, мала «високу схильність» до расизму та упередженості – так само як і подібні системи, наприклад, GPT-3 від OpenAI.

Наші інтереси: 

Дізнаємося про особливості штучного інтелекту.

Якщо ви помітили помилку, то виділіть фрагмент тексту не більше 20 символів і натисніть Ctrl+Enter
Підписуюсь на новини

Зверніть увагу

Натисни кнопку!

Вічне життя: 7 необхідних компонентів режиму керованої молодості

Творення нової цивілізації – це надзвичайно тривалий процес. Для досягнення в ньому успіху треба жити не просто довго, а дуже довго. Ще десяток років тому вершиною наших мрій у цій справі було...

Останні записи

Кращий коментар

Зображення користувача Ігор Каганець.
0
Ще не підтримано

Цікаво, хто брехливіший: штучний інтелект, офіційна наука чи Цукерберг?

Все, що робиться з власної волі, – добро!

Коментарі

Зображення користувача Ігор Каганець.
0
Ще не підтримано

Цікаво, хто брехливіший: штучний інтелект, офіційна наука чи Цукерберг?

Все, що робиться з власної волі, – добро!