Супергерой искусственного интеллекта: может ли этот гений держать его в узде?

Опубликованно 09.02.2018 08:56

Демис Хассабис имеет скромный нрав и скромный лик, но он смертельно серьезен, когда он говорит мне, что он находится на миссии, чтобы “решить разведки, а затем использовать это, чтобы решить все остальное”. Почти никого, инструкция была бы смешной; от него не так много. Хассабис является 39-летний экс-шахматист и видео-игры дизайнер, чьи исследования искусственного интеллекта пуска, DeepMind, был куплен компанией Google в 2014 году за 625 миллионов долларов. Он сын иммигрантов, принял участие в государственной комплексной в Финчли и получил диплом Кембриджского и ЛЧ по информатике и когнитивной нейронауки. А “фантазер” менеджер, по словам тех, кто работал с ним, Хассабис также считает, что он нашел способ “заработать научных исследований эффективности” и говорит, что он является ведущим программы “Аполлон 21 века”. Он вроде нормальный парень тебе не взглянуть еще раз на улице, но Тим Бернерс-ли когда-то описал мне его как один из самых умных людей на планете.

Искусственный интеллект уже все вокруг нас, конечно, каждый раз, когда мы допрашиваем Siri или получить рекомендацию на Android. И в краткосрочной перспективе, продукты Google, несомненно, выиграют от исследования Хассабис, даже если улучшения в персонализации, поиск, YouTube, и речи и распознавания лиц не представлены, как “Ай” как таковой. (“Тогда это просто программное обеспечение, верно?”, - смеется он. “Это просто вещи, которые работает.”) В долгосрочной перспективе, однако, технология его разработки-это больше, чем эмоциональные роботы и умнее телефонов. Это больше, чем Google. Больше, чем Facebook, а также Microsoft, Apple, и других гигантских корпораций в настоящее время собирающая кандидатов наук AI и тонет миллиарды в этой последней технологической гонки вооружений. Это про все, что мы могли бы вообразить; и многое, что мы не можем.

Если это звучит дико амбициозный, это. Большинство Android-устройств имеют “узкий”, обучение запрограммированных агентов освоить конкретную задачу и не более того. Так глубоко Blue от IBM обыграл Гарри Каспарова в шахматы можно, но будет бороться против трех-летний партию в крестики-нолики. Хассабис, с другой стороны, принимая свое вдохновение из человеческого мозга и пытались строить первые “общецелевое машинное обучение”: один набор гибких, адаптивных алгоритмов, которые могут узнать – таким же образом биологические системы – как освоить любую задачу с нуля, не используя ничего больше, чем исходные данные. Компания Google покупает британского запуска искусственного интеллекта Deepmind за 400 Подробнее

Это искусственный общий интеллект (АГИ), с акцентом на “генерала”. В своем видении будущего, супер-умные машины будут работать в тандеме с человека экспертами, чтобы потенциально решить ничего. “Рака, изменение климата, энергетика, геномики, макроэкономики, финансовой системы, физика: сколько систем мы хотели бы освоить становятся настолько сложными,” - утверждает он. “Есть такая информационная перегрузка, что становится тяжело даже самый умный человек, чтобы овладеть ею в своей жизни. Как мы просеять через этот поток данных, чтобы найти правильный выводы? Один из способов мышления agi является как процесс, который будет автоматически преобразовывать неструктурированной информации в применимые на практике знания. Что мы работаем на потенциально Мета-решение любой проблемы”.

Мета-решение еще может быть через несколько десятков лет, но это, кажется, становится неумолимо приближался. В феврале 2015 года, ведущий мировой научный журнал, природа, представленный пикселированные космических захватчиков на своей обложке вместе с откровением, что “самоучка программного обеспечения ИИ” достиг “человека-уровень производительности в видеоиграх”. Внутри, DeepMind документе описаны первые успешные общей “сквозной” системы обучения, в которых их искусственный агент, алгоритм окрестили глубокий вопрос сети на Графический процессор, узнали, как процесс входа на экране, разобраться, и принять решения, которые приводили к желаемому результату (в данном случае, становится сверхчеловеком на кучу классических Atari 2600 игры, включая космические захватчики, бокс и теннис.) Это был прорыв, который потряс мир высоких технологий.

Чемпион Европы едут вентилятор Хуэй берет на себя система AlphaGo. Фото: Рекламный Образ

Спортивной славы не поманил. Хотя Хассабис увлекается Ливерпуль ФК и любит смотреть все виды спорта, в возрасте четырех лет он начал играть в шахматы в течение года соревновалась на национальном уровне, и вскоре после этого на международном уровне. Предположительно, это стало очевидно довольно быстро, что его было бы жизни разума.

Родилась в Северном Лондоне в 1976 году к греко-киприотскому отец и Сингапуро-Китайская мама, он старший из трех братьев и сестер. Его родители-учителя, который когда-то владел магазинов. Его сестра-композитор и пианист; его брат учился писательскому творчеству. Технологии не оказывают большое влияние на их семьи. “Я определенно иностранец паршивой овцой в моей семье”, - шутит он, вспоминая, как будучи мальчиком он проводил шахматный приз, выигрыш на Спектрум 48К, и тогда Коммодор Амига, что он быстро разобрал и разобрался, как программировать. “Мои родители-технофобов. Они не очень похожи на компьютеры. Они вроде богемы. Моя сестра и брат, оба учились в художественной маршрут тоже. Никто из них не пошел на математику или науки”. Он пожимает плечами, почти извиняясь. “Так что, да, это странно, я не совсем уверен, куда все это взялось.”

Его компания, 50-сильная, когда Google купил его, теперь работает почти 200 человек из более чем 45 стран мира и занимает все шесть этажей здания, в переделанной углу Кингс-Кросс. Хассабис было определено, что его компания должна оставаться близко к своим корням, несмотря на давление, двигаться в другом месте (в том числе, предположительно, Маунтин-вью в Кремниевой долине.)

“Я на севере Лондона родился и вырос,” он напоминает мне. “Я очень люблю этот город. Вот почему я настаивал, чтобы здесь остаться: я чувствовал, что не было никаких причин, почему Лондон не могли иметь мирового класса научно-исследовательский институт ИИ. И я очень горжусь, где мы находимся”. Все номера названы в честь интеллектуальных титанов: Тесла, Рамануджан, Платон, Фейнман, Аристотель. Мэри Шелли. (Он фанат? “Конечно,” он меня успокаивает. “Я читал "Франкенштейна" несколько раз. Важно держать эти вещи в уме”.)

На первом этаже находится кафе и кирпичными прием с такой кокосовой воды-укомплектованный холодильником, настольный футбол машины и погремушки, которые можно ожидать от одного из самых амбициозных в мире технологических компаний. Наверх, оборачивая Оригинальное здание, современная открытого плана структура и располагает террасой с бесспорно великолепный вид на крыши Лондона.

Это здесь в пятницу вечером, что DeepMinders собрать для напитков. Один сотрудник описывает ритуал для меня увлечением, как способ “до конца недели на высоком”. Общение является неотъемлемой образ жизни: я рассказал о DeepMind работает клуб, футбольная команда, клуб настольных игр. (“Что один становится довольно низким.”) Настенная Диаграмма с подвижными фотографии указывает, где каждый горячих столов на любой день. Это агрессивно открытой планировки. Инженеры – в основном, мужчины, – что я передаю в коридорах разрушить стереотипы людей, работающих в хуже углы человеческой жизни: эти ребята выглядят нужным, счастливым, круто. Некоторой интеллектуальной гламур, надо сказать, вибрирует в атмосфере. И не удивительно. Самые умные люди на планете стоят в очереди, чтобы работать здесь, и удержание курса, до сих пор, замечательный 100%, несмотря на ускорение сосредоточиться на ИИ среди многих Гугла крупнейших конкурентов, не говоря уже о ведущих университетов по всему миру.

“Нам очень повезло”, - говорит Хассабис, кто сравнивает его компании к программе "Аполлон" и Манхэттенский проект как грандиозный масштаб его амбиций и качеством сознании он собирает со все возрастающей скоростью. “Мы можем в буквальном смысле сделать лучшие ученые из каждой страны каждый год. Так что у нас будет, скажем, человек, который победил на олимпиаде по физике в Польше, человек, который получил высшую математику канд года во Франции. У нас есть больше идей, чем у нас есть исследователи, но в то же время, есть более великие люди, приезжающие в нашу дверь, чем мы можем взять на себя. Так что мы находимся в очень выгодном положении. Единственное ограничение-сколько людей мы можем поглотить, не повреждая культуры”. Элон Маск говорит, что он вложил в DeepMind за "Терминатора" страхи Подробнее

Что культура идет гораздо глубже, чем погремушки, бесплатные закуски и пиво на крыше. Настаивая на том, что компания Google приобретение никоим образом не заставили его отступить от собственного исследовательского пути, Хассабис считает, что он тратит “по крайней мере, столько времени, думая об эффективности DeepMind в качестве алгоритмов“ и описывает компанию как “смесь из лучших научных кругов с самые увлекательные стартапы, которые обладают этой невероятной энергии и кайфа, который питает творчество и прогресс”. Он упоминает “творчество” очень много, и отмечает, что, хотя его формальное обучение было в науку, он “естественно на творческое или интуитивное” сторону. “Я не, вроде, стандартная ученый”, - отмечает он, видимо, без иронии. Жизненно важно, чтобы ткань DeepMind является то, что он называет “клей умов”: парень полиматам, кто может в достаточной мере осознать множество научных направлений “найти точки соединения, и быстро определить, где перспективные межпредметные связи, может быть, в какой-то левой поле путь”. Применение правильных ориентиров, то эти клея люди могут проверить рабочие группы каждые несколько недель и быстро, умело передвигаться ресурсов и инженеров, где требуется. “Итак, у вас одна невероятная, исследователь гениальности и почти сразу, в отличие от научных кругов, трех или четырех человек из другой области сможет подобрать то, что батон и добавить к нему со своим собственным блеском,” он описывает. “Это может привести к невероятным результатам происходит очень быстро”. Проект AlphaGo, запустили только 18 месяцев назад, является идеальным примером.

Каждую ночь, Хассабис хмеля на Северной линии, чтобы вернуться домой в срок на ужин со своей семьей. Они живут в Хайгейте, неподалеку от места, где он вырос. Его жена-итальянская молекулярный биолог, исследования болезни Альцгеймера. Их двое сыновей семи и девяти. Хассабис будет играть в игры и читать книги с ними, или помочь им с домашним заданием. (“Они оба гениальны по-своему, но они почти как противоположные половинки меня, на науку и творческую сторону.”)

Он положил их на кровать, как и любой обычный папа. А потом, около 11 вечера, когда большинство людей могли бы разумно ожидать, чтобы быть в поворот, он начинает то, что он называет своей “второй день”. Есть неизменно по Skype пройдет с нами до 1 ночи. После этого это возможность для “просто времени на размышления. До трех или четырех утра, вот когда я делаю мои мысли: на исследования, на наш следующий вызов, или я напишу алгоритмический дизайн документ”.

Это не столько фактическое ИИ, он признает, “потому что моя математика сейчас тоже ржавые. Это больше интуитивное мышление. Или, может, стратегическое мышление о компании: как масштабировать и управлять этим. Или это может быть просто то, что я читала в газете или видела по новостям, что день, интересовалась как наше исследование может подключиться к этому”.

Я вспоминаю AlphaGo, там, в невообразимо мощный компании Google облачные вычисления, просто играть и играть и играть, работать над собой каждую секунду каждого дня, потому что только так он может научиться держать будет...

“Когда-нибудь успокоится?” Я спрашиваю.

“Неа. Нет покоя! Он даже не Рождество с”.

Я не решаюсь. “Разве тебе не нужен отдых?”

“Может быть, она любит его,” он отстреливается, огоньком в глазах.

Точка взята. Так что о себе Хассабис? “Наверняка сверхчеловеком”, один из его коллег говорит мне, случайно. Разве он сможет когда – нибудь Выключить? “Это тяжело”, - признается он. “У меня никогда не было, что действует на жизнь; это все часть той же холст. Я люблю читать книги, смотреть фильмы, слушать музыку, но она стремится вернуться к тому, что я делаю”. (Фанат кино, он считает Алекс Гарленд, который руководил недавней ИИ фильм экс машина, как друг; и упоминает, что он встретился с нами кинопродюсер Брайан Грейзер, “очень крутой парень”, в котором речь шла о, как вы уже догадались, Ай.) “Мой мозг просто полностью поглотила его”.

А как насчет его детей, его друзей, нормальной жизни? “Конечно, я стараюсь держать заземлен, иначе я бы пошел немного сумасшедший. И что самое прикольное про детей-они в значительной степени единственная вещь, которая может поглотить тебя таким же образом”. Если есть цифровой интеллектом, который превосходит человеческий интеллект, "помощь" - это не правильное описание Элон Маск

Он, конечно, держит своих друзей близко: он встретил одного из своих DeepMind соучредителей, Шейн Легг, когда они оба были докторами наук в ucl, познав других, Мустафа Сулейман, так как они были детьми. И он говорит милая история о дружбе парня для студентов под названием Дэйв серебро в Кембридже и позже учить его играть в настольные игры, в том числе некоторых древних китайцев – в их свободное время. Двадцать лет спустя, я замечаю, Дэвид серебро является главным программистом в команде, идти на DeepMind, и ведущий Автор последних природу бумаги. “Да, Дейв и я собрались вместе долгую историю,” Хассабис смеется. “Мы мечтали об этом в нашей жизни, поэтому наша 19-летняя я, вероятно, был очень рад, что мы получили здесь.”

Он добавляет, задумчиво: “это правда, у меня нет нормальной жизни. Каждый момент пробуждения, это о чем я думаю, наверное, в моих снах так же. Ведь это так здорово, это так важно, и это то, что я больше всего люблю.”

Есть взгляд в его глазах, что я могу описать только как лучезарная цель, почти детской в своей невиновности. “Я чувствую себя так повезло. Я не могу придумать более интересные вопросы, чем те, что я работаю, и я думаю о них каждый день. Каждый момент я делаю то, что я действительно верю. В противном случае, зачем это делать, учитывая, как коротка жизнь?”

Жизнь может быть гораздо короче, если АИ-обзоры страхах Стивена Хокинга, Билла Гейтса, Элона маска, Яан Таллинн, Ник Бостром и множество другой гигант научной мысли реализуются. Проблемы варьируются от АГИ незарегистрированного оружия угрозу “технологической сингулярности”, ведущие к “интеллект взрыва”, в котором машина становится способна рекурсивного самосовершенствования, и при этом превосходит интеллектуальный потенциал человеческого мозга и, следовательно, нашей способности контролировать. Если сверхразум тени бедствия, история-это не совсем достоверный показатель, который мы предусмотрительно отказаться от гонки вооружений ИИ пока не стало слишком поздно“.Когда вы видите что-то технически сладкий,” Роберт Оппенгеймер однажды заметил, лихо, “вы идете и делаете это, и вы рассуждаете о том, что делать об этом только после того как вы имели свой технический успех”. “Если есть способ гарантировать, что улучшенный искусственный интеллект никогда не будет вредить людям”, - отметил Бостром, спустя десятилетия, “то такой интеллект будет создан. Если нет никакого способа, чтобы иметь такие гарантии, то они, наверное, все-таки.” “Успех в создании ИИ,” Хокинг аккуратно совсем недавно подведены, станет “крупнейшим событием в истории человечества. К сожалению, он также может быть последним.”

“Ну, я надеюсь, нет”, - Хассабис deadpans. По его мнению, общественное паникерство над АГИ скрывает большой потенциал краткосрочные выгоды и в корне неправильно, не в последнюю очередь из-за сроков. “Мы все еще десятилетия вдали от каких бы то ни общий уровень интеллекта людей,” он напоминает мне. “Мы находимся на первой ступени лестницы. Мы играем в игры”. Он принимает есть “законные риски, которые мы должны думать о сейчас”, но уверен, это не антиутопических сценариях научной фантастики, в котором супер-умные машины безжалостно обходиться без своих создателей-людей. Демис Хассабис: 15 фактов о DeepMind основателя технологии Подробнее

Кроме того, он настаивает, DeepMind является лидером, когда дело доходит до уменьшения потенциальной опасности от СВД. Компании, хотя, очевидно, не подлежит рода проверок со стороны официальных органов, что правительство во главе Аполлона или проектов Манхеттена, работает довольно прозрачно. Он стремится опубликовать свой код, и состояние Гугле интернет-эмбарго на использование своих технологий в военных или разведывательных приложений. Хассабис и его коллеги сыграли важную роль в созыве конференции плодотворной 2015 в Пуэрто-Рико на ИИ, и подписавших открытое письмо, обязуясь использовать технологию “по хорошему”, а “избегая потенциальных ловушек”. Недавно они помогли согласовать еще одну такую конференцию в Нью-Йорке, и их много-раструбили доска внутренняя этика и консультативный комитет созывается (пусть и в частном порядке.) “Хассабис тщательно ознакомившись с доводами безопасность мА”, - отмечает Мюррей Шанахан. “Он, конечно, не наивный, и у него нет голову в песок”.

“DeepMind является лидером среди отраслевых в поощрении диалога по этим вопросам”, - соглашается Бостром, “и в работе с некоторыми исследованиями, которые будут необходимы для решения этих проблем в более долгосрочной перспективе.”

Я прошу Хассабис рассказать о том, что он думает, что основные долгосрочные проблемы. “Поскольку эти системы становятся все более сложными, мы должны думать о том, как и что они оптимизируют”, - отвечает он. “Технология сама по себе нейтральна, но это система обучения, так неизбежно, они будут нести на себе отпечаток системы ценностей и культуры на дизайнера, поэтому мы должны думать очень тщательно о ценностях”.

На сверхразум вопрос, он говорит: “Мы должны убедиться, что цели заданы правильно, и что нет ничего неоднозначного там и что они стабильны во времени. Но во всех наших системах, на высшем уровне цели будет определено его дизайнеров. Он может придумать свои способы, чтобы добраться до этой цели, но он не создает свои собственные цели”.

Его тон неустанно успокаивает. “Посмотри, все эти интересные и сложные задачи. Как и все новые мощные технологии, это должно использоваться этически и ответственно, и именно поэтому мы активно призывают к дискуссии и исследования теперь вопросы, так что, когда придет время, мы будем хорошо подготовлены.”

Когда придет время для чего? Для машин, чтобы стать супер-умным, или для них, чтобы преуспеть человечества? Он смеется. “Нет, Нет, Нет, я имею в виду, как до этого!” (Я думаю, что он шутит, хотя в 2011 году его коллега Шейн Легг сказал: “я думаю, что исчезновение человека может возникнуть и технологии, вероятно, играют роль в этом.”) Хассабис уточняет: “я имею в виду, когда эти системы являются более мощными, чем просто играть в игры и мы не дадим им потерять на чем-то более реальном мире, что более важно, как здравоохранение. Тогда мы должны быть уверены, что мы знаем, что их возможности не будет”. Он ухмыляется на меня. “Это чтобы остановить машины-с-более-мировой сценарий”. Элон Маск: искусственный интеллект-это наша самая большая угроза существованию Подробнее

Хассабис улыбок, много. Он дружелюбный и очень убедительно. Все, что он говорит, кажется разумным, не особенно высокомерное, и кто знает: возможно, АГИ останутся под нашим контролем. Но многие по-прежнему скептически. “Очевидно, что если есть цифровой интеллект, который значительно превышает все аспекты человеческого интеллекта, ‘помощь’ - это не правильное описание”, - утверждает Элон Маск, который недавно описал достижений в области технологий искусственного интеллекта, человечество “призыва демона”. Основатель spacex и Tesla и PayPal соучредитель был одним из оригинальных инвесторов DeepMind, но не за деньги. “Я не забочусь о инвестирование ради инвестирования”, - говорит он мне из своего офиса в Калифорнии. “Единственная причина, я положил деньги в DeepMind, чтобы получить лучшее понимание прогресса и опасностях искусственного интеллекта. Если мы не будем осторожны с AI и случается что-то плохое, банковских счетах ничего не значат”.

“Элон-один из самых умных людей там, и удивительно, поговорить,” Хассабис реагирует, нейтрально. “И я действительно думаю, что это очень здорово, люди, подобные ему, так в АИ, потому что это просто показывает, что это важно.” Он остается дипломатические, но очевидно, что оно его раздражает, что ученые из других областей чувствуем свободу публично высказываться по AI: Вы не слушайте его, разглагольствуя о физике элементарных частиц, в конце концов.

“В целом, я обнаружил, что люди, которые на самом деле не работают на АИ не полностью понимаю. Они часто не говорили многие эксперты ИИ, поэтому их мысленных экспериментов убегают сами с собой, потому что они основаны на том, что я думаю, не будет окажется ошибочные предположения”. Он упоминает, опять же, Комитет по внутренней этики и консультативного совета он формируется из ведущих деятелей из различных научных и философских дисциплин на основе любого будущего использования технологии АГИ. И он аргументированно отстаивает свое решение сохранить дела частного на данном этапе. “Никто никогда не пробовал ничего подобного прежде, так много произвольного, что мы должны сделать, прежде чем мы имеем дополнительные наблюдением общественности сомневаешься, что мы делаем на Twitter или что, прямо с первого дня.“ Это начальный этап, говорит он, идет о “получении всех в курс дела, так что на следующем этапе мы готовы обсуждать актуальные алгоритмы и приложения. Для многих людей, это не их основной сфере. Мы хотим, чтобы их опыт, но они должны получить лучшее представление о том, что происходит на самом деле.” Маск, Хокинг и Возняк призывают запретить войны AI и автономного оружия Подробнее

Стивен Хокинг привел как обнадеживающий пример того, что такое “попасть в скорость” может означать. Недавно они встретились в Кембридже для частной беседы, подстрекаемых Хассабис. “Очевидно, это была фантастическая честь просто встретиться с ним,” он с энтузиазмом, вытаскивая свой iPhone – он остается преданным, несмотря на его новый хозяин – чтобы показать мне селфи. “У нас был только час, по расписанию, но у него было так много вопросов, мы закончили разговор в течение четырех часов. Он пропустил обед, так что его помощники были не очень счастлив со мной”.

С их последней встречи, Хассабис указывает, Хокинг не сказал “ничего воспалительных о AI” в прессе; что самое удивительное, в его Би-би-си Райт лекции в прошлом месяце, он не включает искусственный интеллект в его список предполагаемых угроз человечеству. “Может быть, это помогло, больше слышать о практичности; больше о реальных системах, мы могли бы строить и проверки и контроль, мы можем иметь на тех,” Хассабис предприятий. Он оглядывает комнату, со своими непонятный символ-валяются доски. “Все это кажется гораздо более понятным, разумным, как только вы поймете инжиниринг”.

Нет никакой надежды для меня, очевидно, но неужели он действительно верит, что Хокинг был обращен? “Я думаю, в конце концов, да, он был довольно спокоен. Он был такой веселый, очень сухое чувство юмора, и как раз перед моим отъездом, я сказал ему: ‘что ты думаешь?’ И он написал, ‘Я желаю вам удачи.’ И потом, с этим очень дерзкий огонек в его глазах, добавил, - Но не слишком много.’” Демис Хассабис дает мне своей обезоруживающей улыбкой. “Я думал, ‘я воспринимаю это как победу.’”

Категория: Обо всем