Боротьба за безпеку штучного інтелекту

Ще одна область, яка цікавить Маска — розробка штучного інтелекту. Сам він зізнається, що побоюється повторення сюжету, описаного в безлічі фільмів на кшталт «Термінатора» — тому, щоб не допустити повстання машин, намагається тримати руку на пульсі всіх пов'язаних з штучним інтелектом розробок.

ilonmaskvfilmiproshtuchnyymozok.jpg

Маск видний серед глядачів, що прийшли на презентацію штучного інтелекту в науково-фантастичному фільмі «Перевага»
Маск видний серед глядачів, що прийшли на презентацію штучного інтелекту в науково-фантастичному фільмі «Перевага»

 

У березні 2014 Маск вклав $40 млн в компанію Vicarious FPC, що займається розробкою штучного інтелекту. Засновники проекту планують скопіювати області кори головного мозку, які відповідають за сенсорне сприйняття, мислення, моторику, мову — і перетворити в програмний код.

У червні 2014 підприємець заявив, що компанія, подібна SkyNet, може бути створена вже через п'ять років — і людству варто задуматися, як цьому перешкодити. У жовтні на симпозіумі MIT підприємець зазначив, що, на його думку, розробка штучного інтелекту те саме - що виклик диявола.

«Ті хто закликають демонів теж завжди впевнені, що зможуть їх контролювати».

Деякі дослідники підтримали його побоювання, сказавши, що страхи Маска — «не таке вже й божевілля».

15 січня 2015 стало відомо про те, що Маск направив $10 млн в інститут, що займається дослідженнями в галузі безпеки людського майбутнього. Він також склав лист для вчених, в якому детально описав, що саме їм належить зробити, як розпоряджатися отриманими грошима, і які цілі перед ними стоять.

Засновник SpaceX і Tesla Motors профінансує

37 проектів щодо забезпечення безпеки штучного інтелекту


Засновник SpaceX і Tesla Motors профінансує 37 проектів щодо забезпечення безпеки штучного інтелекту

Засновник і глава SpaceX і Tesla Motors Ілон Маск раніше вже ділився з громадськістю своїми побоюваннями з приводу штучного інтелекту, закликаючи світових світил науки, дослідницькі інститути і компанії з області робототехніки першим ділом задуматися про безпеку.

Він, зі свого боку, пожертвував $10 млн до фонду некомерційної організації Future of Life Institute (FLI), головна місія якої – «пом’якшення ризиків, які загрожують людству в майбутньому».

Дана організація, в числі іншого, займається дослідженням потенційних загроз, які несе в собі штучний інтелект. Днями Інститут назвав 37 науково-дослідних груп, відібраних серед 300 претендентів, які отримають гранти на власні проекти по забезпеченню безпеки штучного інтелекту.

Повний список одержувачів грантів, а також докладний опис їх проектів можна знайти на офіційному сайті Інституту. Між дослідними командами буде розподілено в цілому близько $7 млн, надані Маском та організацією Open Philanthropy Project. Роботи по більшості проектів почнуться вже у вересні і будуть фінансуватися Інститутом протягом трьох років. Решту $4 млн будуть розподілені пізніше, як тільки організація виділить найбільш перспективні проекти.

Хоча дана «ініціатива» підносилася багатьма тематичними ресурсами в якості створення інструменту запобігання втілення в життя сценарію такої культової стрічки, як «Термінатор», в даний час Інститут намагається перевести обговорення в інше, більш правильне, русло.

«Небезпеки з втіленням сценарію «Термінатора» не те щоб не існує, це просто відволікає від реальних проблем, які несе в собі штучний інтелект», – йдеться в заяві президента FLI Макса Тегмарк. – «Ми сконцентровані на реальних проблемах, вирішенням яких займуться 34 кращих команд дослідників».

Це абсолютно справедливе твердження: керівництво Інституту мислить дуже практично – оптимізація впливу ШІ на економіку (зростання рівня безробіття і подальше збільшення нерівності доходів) та рішення ряд етичних дилем (вибір найбільш оптимального «варіанту» в неминучій автокатастрофі). Тим не менш, чимало проектів присвячені потенційної проблеми повстань машин і знищення людства роботами. Раніше Ілон Маск зазначив, що у ІІ є потенціал стати «небезпечніше ядерної зброї». Основна мета FLI – запобігти цей сценарій, упевнившись, що ІІ перебуває під повним контролем і діє в інтересах людства.

 

Ілон Маск і його колеги зайнялися розробкою безпечного штучного інтелекту

13 грудня 2015 в 11:47

На проект виділено більше мільярда доларів.

Штучний інтелект зроблять безпечним для людини 4pda.ru Ілон Маск та інші відомі представники ІТ-індустрії заявили про створення OpenAI - некомерційної компанії для роботи зі штучним інтелектом. Як йдеться на офіційній сторінці компанії, творці OpenAI прагнуть зосередитися на користі, яку штучний інтелект може принести людству, не орієнтуючись на комерційну вигоду. Метою діяльності організації є створення безпечного штучного інтелекту. Як відзначають творці організації, дуже важко передбачити, коли з'явиться штучний інтелект, який досягне рівня людини. Тому необхідно створити організацію, яка зможе відразу ж "налаштувати" цей інтелект на безпечний і корисний для людства лад. З цією метою і створена OpenAI. Всі дослідники, які входять в організацію, будуть викладати свої розробки у вільний доступ в будь-якому зручному для них вигляді: записів у богах, відкритого коду, документів, що дозволить поширювати нові знання по всьому світу. Крім того, дослідники OpenAI сподіваються на співпрацю з науковцями з інших організацій. Читайте також: Штучний інтелект зрівнявся в тесті IQ з чотирирічними дітьми До складу команди проекту увійшли один з найбільш відомих у світі експертів в області програмування Ілля Шуцкевер, розробник додатків і один з творців Stripe Грег Брокман і ряд інших фахівців. Керують ним творець Tesla і SpaceX Ілон Маск і президент одного з найвідоміших стартап-акселераторів Y Combinator Сем Альтман. У цілому творці компанії зібрали в її фонд більше мільярда доларів. Раніше провідні вчені світу, серед яких Стівен Хокінг, Ілон Маск, Стів Возняк, Ноам Хомськи і провідні дослідники штучного інтелекту написали відкритий лист до ООН, в якому висловили свої побоювання з приводу "гонки зі створення військового штучного інтелекту" і тих наслідків, які вона може принести для всього людства. Також вони підкреслили необхідність розгляду "питання заборони розробки автоматизованого озброєння". За матеріалами:DT.UA

 

 

Судний день скасовується. Ілон Маск витратить $1 млрд, щоб запобігти повстанню машин 

16 Грудня, 2015, 11:25  963  2  коментувати

 
Ілон Маск збирається додати в свій послужний список боротьбу з Термінаторами з майбутнього

Ілон Маск збирається додати в свій послужний список боротьбу з Термінаторами з майбутнього

Батько Tesla і Space X разом з групою інвесторів з IT-індустрії заснував фонд OpenAI, який займеться дослідженнями, здатними запобігти повстанню штучного інтелекту проти людей.

Ілон Маск не часто розповідає про своє дитинство. Відома його цитата про те, що в дитинстві можна стільки всього підірвати, що він досі не розуміє, як зберіг всі свої пальці.

Логічно припустити, що Маск захоплювався науковою фантастикою, можливо, навіть був фанатом класичної франшизи Термінатор. У будь-якому випадку, він давно відомий як прихильник обережного ставлення до розробок у галузі штучного інтелекту. Раніше Маск часто висловлювався на користь необхідності контролю за розробками в цій області і жертвував гроші на дослідження, які могли б наділити машини здатністю відчувати.

Штучний інтелект — це не тільки нові можливості для людства, але і нові небезпеки, вважає Маск. Причому великі небезпеки. А раз так, то і на боротьбу з ними можуть знадобитися значні кошти.

Заснований за ініціативою Маска некомерційний фонд OpenAI збирається виділити на дослідження в області штучного інтелекту серйозну суму - $1 млрд.


Восстание машин - одна из классических тем мировой фантастики. Маск и его единомышленники хотят, чтобы это пророчество не стало реальностью
Повстання машин - одна з класичних тем світової фантастики. Маск і його однодумці хочуть, щоб це пророцтво не стало реальністю

 


 

Ці кошти будуть спрямовані на дослідження, які дозволять гарантувати, що ШІ буде доброзичливим по відношенню до людства. Такі дослідження повинні розглядати не тільки наукову і технологічну сторону розробок в області ШІ, але й етичну, переконаний Маск.

«Наше завдання — забезпечити розвиток досліджень в галузі штучного інтелекту таким чином, щоб він приносив тільки користь людству, - наголошується в офіційній заяві фонду OpenAI. - При цьому фонд не буде піклуватися про повернення інвестицій».

OpenAI продовжить традицію, згідно з якою компанії Маска віддають усі свої патенти в загальне користування, причому абсолютно безкоштовно. Зокрема, всі патенти на разробку електромобілів компанія Tesla Motors вже віддала в публічне користування.

Маск є ініціатором створення фонду і стане одним з його керівників. Другим буде Сем Альтман, творець Y Combinator — найуспішнішого в історії акселератора стартапів.

Список співзасновників вражає. Серед тих, хто висловив підтримку ідеям Маска — творець соціальної мережі LinkedIn Рейд Хоффман і великий інвестор та співзасновник PayPal Пітер Тіль. Також взяти участь у діяльності фонду збирається компанія Amazon Джефа Безоса, що є найбільшою в світі торговою інтернет-крамницею.


Инициативу Маска поддержал крупный инвестор Питер Тиль, один из основателей PayPal и первый инвестор Facebook

Ініціативу Маска підтримав великий інвестор Пітер Тіль, один із засновників PayPal і перший інвестор Facebook

 

 


 

Аналітики зустріли нову ініціативу Маска з великим ентузіазмом.

«Нарешті, мова зайшла про роботів, яких ми так давно чекали», - констатує оглядач ScienceAlert Пітер Докрил.

Оглядач Medium Стівен Левай вважає, що OpenAI стане дослідною лабораторією, яка зможе протистояти великим компаніям, які прагнуть монополізувати розробки в області ШІ.

“Я давно висловлював стурбованість безпекою ШІ, - пояснює Маск в інтерв'ю Medium. - Ми обговорювали цю тему з Рейдом [Хоффманом] і Пітером [Тілем] і прийшли до висновку, що досягти успіху можна тільки якщо створити неприбуткову організацію, учасникам якої не потрібно думати про повернення інвестицій».

За словами Сема Альтмана, ШІ є однією з найважливіших віх для безпечного майбутнього людства. Творці OpenAI вважають, що ШІ повинен отримати максимально широке поширення. Людство від цього тільки виграє. Але зробити так, щоб ШІ створювався тільки в мирних цілях і з благими намірами, можна лише розвиваючи безпечні технології і віддаючи їх в загальне користування безкоштовно.

Підтвердженням серйозних намірів Маска і його однодумців стали перші кадрові рішення фонду.

Технічним директором OpenAI стане засновник сервісу онлайн-платежів Stripe Грег Брокман. Директором дослідницької діяльності увійде відомий дослідник ШІ та нейронних мереж, колишній співробітник Google Ілля Сутскевер.

Крім того, у фонду буде наглядова рада, яку очолить легендарний Алан Кей, колишній глава дослідницького центру HP, батько графічного інтерфейсу персональних комп'ютерів, людина, яку часто цитував сам Стів Джобс.

Всі ці розуми будуть спрямовані на те, щоб направити розробки в області ШІ в таке русло, при якому вони будуть приносити тільки користь людству.


Если большинство разработок будут учитывать этический фактор, то злоумышленникам будет сложнее использовать ИИ в своих целях, считают создатели OpenAI
Якщо більшість розробок будуть враховувати етичний чинник, то зловмисникам буде складніше використовувати ШІ у своїх цілях, вважають творці OpenAI

 


 

Подумайте про електронну пошту, соціальні мережі та додатки у вашому смартфоні, наводить приклад Маск. «Все це робить вас Надлюдиною, але ви не сприймаєте ці сервіси як окремі особистості — лише як продовження самого себе, - пояснює винахідник. - Ми хочемо направити створення штучного інтелекту в те ж русло».

За словами Альтмана, розвитком ШІ займаються сьогодні багато компаній, включаючи Google іFacebook, однак головне питання полягає в тому, що вони не діляться з громадськістю усіма своїми розробками. Це залишає питання щодо етичності їх розробок.

На питання про те, чи не допоможуть потенційним зловмисникам розробки у відкритому доступі, Альтман відповідає впевнено. «Людство протистоїть зловмисникам завдяки тому факту, що більшість людей знаходяться на стороні добра, - пояснює він. - І якщо більша частина існуючих моделей ШІ будуть створені з урахуванням етичної сторони, це дозволить протистояти поодиноким розробкам, створеним без урахування цього чинника».

 

Перевага / Transcendence (2014) BDRip


ninenine18:00, 1 грудня 2014, 14:02, 25 червня 2015

Жанр: драма, містика, фантастика, трилер 
Країна: Великобританія, Китай, США

 

Кінокомпанія: Alcon Entertainment, DMG Entertainment, Straight Up Films 
Режисер: Воллі Пфістер 
Актори: Джонні Депп, Ребекка Голл, Пол Беттані, Кілліан Мерфі, Кейт Мара, Коул Гаузер, Морґан Фрімен, Кліфтон Коллінз-мол., Корі Гардрікт, Фальк Геншел та інші

Сюжет:
Видатний дослідник в галузі вивчення штучного інтелекту Доктор Вілл Кастер працює над створенням комп'ютера, який зможе зібрати в собі всі знання і досвід, накопичені людством. Досить спірні експерименти, що проводяться Віллом, прославили його, і в той же час зробили основною метою радикального анти-технологічного угруповання. Екстремісти роблять все можливе, щоб зупинити його. Однак у своїх спробах знищити Вілла вони домагаються зворотного і стають мимовільними учасниками становлення його абсолютної переваги. Для його дружини Евелін і кращого друга Макса Вотерса, теж вчених-дослідників, постає питання чи повинні вони продовжувати цей експеримент. Їхні найгірші побоювання втілюються в життя, коли жага знань Вілла переходить в неконтрольовану спрагу влади...

Тривалість: 01:53:32 
Якість: BDRip 
Відео: 
кодек: XviD 
розмір кадру: 720x304 
бітрейт: ~1651 кб/с

Аудіо: 
мова: українська 
переклад: професійний дубльований 
кодек: AC3 2.0 (стерео) 
бітрейт: 192 кб/с

Джерело: & 
Особиста оцінка: 7

 

дивитися онлайн

 

Гравець: 
Світ Зелений

Новини від RedTram - для збільшення прихильників НО

Loading...
 
Форум Підтримати сайт Довідка