Известные ученые и инвесторы предупредили об угрозах искусственного интеллекта

13.01.2015 | 10:53
Десятки известных ученых, предпринимателей и инвесторов, чья деятельность связана с искусственным интеллектом (ИИ), подписали открытое письмо с призывом уделять более пристальное внимание безопасности и общественной полезности разработок в области ИИ. Среди них основатель компаний SpaceX и Tesla Илон Маск и астрофизик Стивен Хокинг.

Письмо и сопроводительный документ, составленный общественной организацией «Институт будущего жизни» (Future of Life Institute, FLI), появились в обстановке растущей обеспокоенности по поводу влияния ИИ на рынок труда и даже на долгосрочную перспективу выживания человечества в условиях безудержного роста возможностей машин.

«Потенциал ИИ огромен, поэтому очень важно исследовать возможности его оптимального использования и того, как избежать сопутствующих ловушек, — говорится в письме FLI. — Нужно, чтобы наши системы ИИ делали ровно то, чего мы хотим от них».

Институт FLI был основан в прошлом году энтузиастами, в числе которых создатель Skype Яан Таллинн, чтобы стимулировать исследования с «оптимистическим видением будущего» и «минимизировать риски, стоящие перед человечеством». Прежде всего речь идет о рисках, связанных с развитием ИИ. Маск и Хокинг входят в консультационный совет FLI наряду с актером Морганом Фриманом и другими известными людьми. По мнению Маска, неконтролируемое развитие ИИ «потенциально гораздо опаснее ядерного оружия».

Кроме Маска и Хокинга подписи под документом поставили исполнительный директор Института исследований машинного интеллекта (MIRI) Люк Мюльхаузер, профессор физики MIT и нобелевский лауреат Фрэнк Вильчек, многие специалисты из Google, IBM и Microsoft, а также предприниматели, основавшие компании DeepMind и Vicarious, специализирующиеся на системах ИИ.

Составители письма не ставят цель напугать общественность, желая лишь подчеркнуть как положительные, так и отрицательные аспекты, связанные с ИИ. «Сейчас все сходятся во мнении, что исследования ИИ уверенно прогрессируют, а влияние ИИ на общество будет усиливаться, — говорится в письме. — Открывающиеся возможности огромны, ведь все, что может предложить цивилизация, создано интеллектом человека. Мы не в состоянии предсказать, чего можно будет достичь, если этот интеллект будет умножен средствами ИИ, но проблема избавления от болезней и бедности уже не кажется бесконечно трудной».

В наш быт уже входят многие разработки в области ИИ, включая системы распознавания речи и изображений, беспилотные транспортные средства и т. п. По оценке наблюдателей из Кремниевой долины, в этой области сейчас работает более 150 стартапов. Разработки в области ИИ привлекают все больше инвестиций, все больше компаний вроде Google развивают проекты на базе ИИ. Поэтому, как считают авторы письма, сейчас самое время уделить повышенное внимание возможным последствиям этого бума для социальных, экономических и юридических сторон нашей жизни.

«Многие специалисты по экономике и компьютерным наукам понимают, что необходимо тщательно исследовать пути максимизации выгод от использования ИИ и минимизации негативных побочных эффектов, включая рост неравенства и безработицы», — говорится в письме FLI.
открытое письмо, ученые, инвесторы
По материалам Vedomosti.ru
Лента новостей: FacebookLiveJournalЯндекс

Комментарии (0)
Оставьте комментарий:CaptchaОбновить проверочный код