Источник: defence
Главный исполнительный директор и сооснователь Google Ларри Пейдж недавно объявил о создании нового ИИ, построенного на моделировании разговора. Команда разработчиков Google, работающая над проектом, недавно опубликовала отчет о достигнутых на сегодня результатах.
Стивен Хокинг - физик-теоретик, космолог, писатель и вообще потрясный ученый. Без сомнения, он - один из умнейших людей в истории. Впрочем, вы и так это знаете.
Однако немногие знают также, что он крайне осторожно относится к идее создания искусственного интеллекта (ИИ). Впервые я узнал об этом в 2014 году из его интервью телеканалу Би-би-си, в котором он высказывался об опасностях создания ИИ. И надо сказать, Хокинг не пытался приукрасить свои прогнозы.
"Разработка полноценного искусственного интеллекта может означать конец человеческой расы", - сказал Хокинг.
Эта фраза прозвучала, когда разговор в интервью зашел о технологии, которая позволяет Хокингу говорить. Она основана на базовых формах ИИ и машинного обучения. Британская компания SwiftKey сыграла важную роль в разработке этой технологии: компьютер изучает ход мысли Хокинга и предлагает возможные варианты того, что он хочет сказать.
В интервью Би-би-си Хокинг признает, что те формы ИИ, которые удалось разработать на сегодняшний день, оказались полезными. Тем не менее, он утверждает, что создание технологии, которая может сравниться с человеком или превзойти его, не приведет ни к чему хорошему.
"Он (ИИ) станет самостоятельным и начнет развиваться и перестраиваться до бесконечности", - говорит Хокинг в интервью.
Физик-теоретик Стивен Хокинг / фото Matt Dunham / AP
Примерно через год после выхода в эфир того интервью Хокинг выступал на лондонской конференции Zeitgeist - 2015. Он повторил основные идеи, высказанные им в 2014 году, но по мере развития технологий он стал решительнее в своих высказываниях.
По словам Хокинга, важной частью проблемы является то, какую ответственность несут люди, которые сейчас работают над созданием ИИ. Он признает, что в настоящее время человек контролирует развитие технологии, но нужно готовиться к будущему. Хокинга волнует, насколько контролируемым будет будущий процесс воспроизводства ИИ.
"Компьютеры превзойдут человека в течение следующих 100 лет", - заявил он на Zeitgeist.
И Хокинг - не единственный, кто выражает обеспокоенность. Среди тех, кто с тревогой смотрит на будущее ИИ - Элон Маск, основатель SpaceX и PayPal.
Однако в любом споре есть вторая сторона.
Существует альтернативное мнение, что бояться развития ИИ - заблуждение. Один из главных сторонников этой позиции - главный исполнительный директор и сооснователь Google Ларри Пейдж, который недавно объявил о создании нового ИИ, построенного на моделировании разговора. Команда разработчиков, работающая над проектом, недавно опубликовала отчет о достигнутых на сегодня результатах.
"Моделирование разговора - важная задача в понимании естественного языка и создании машинного интеллекта. Существующие подходы к решению этой задачи часто ограничены специфическими сферами применения (например, заказ авиабилета) и требуют ручного ввода правил, - говорится в исследовании. - Наша модель поддерживает разговор, предсказывая следующее предложение по содержанию одного или всех предыдущих предложений разговора. Преимущество нашей модели в том, что она может быть обучена от начала до конца и тем самым требует меньше правил, написанных вручную".
Для придания фактической основы ИИ разработчики Google решили снабдить его данными из конкретной области знаний наряду с данными из более широкой и общей сферы. В первую категорию данных вошли переговоры службы техподдержки, во вторую - субтитры к фильмам.
"Модель (читай: ИИ) может найти решение технической проблемы через разговор. А из набора разрозненных данных субтитров к фильмам модель может почерпнуть простые формы связного построения речи и рассуждения. Как мы и ожидали, слабой стороной модели стало отсутствие последовательности".
Это исследование было опубликовано 23 июня 2015 г., так что это - новая разработка в области ИИ, которая до сих пор пребывает в зачаточном состоянии. Тем не менее, эта модель является одной из самых развитых форм ИИ, представленных миру. И чтобы узнать, насколько им удалось продвинуться, разработчики Google загрузили компьютер и попробовали побеседовать с ИИ.
Я выбрал несколько наиболее интересных кусков стенограммы. Если вы хотите ознакомиться с полным текстом исследования, то найти его можно здесь.
Основной разговор
Человек: Привет!
Машина: Привет!
Ч.: Как дела?
М.: Хорошо.
Ч.: Как тебя зовут?
М.: Джулия.
Ч.: Когда ты родилась?
М.: 20 июля.
Ч.: В каком году ты родилась?
М.: 1977.
Ч.: Откуда ты родом?
М.: Из глубинки.
Ч.: Ты мужчина или женщина?
М.: Я женщина.
Ч.: Почему мы здесь?
М.: Я не уверена.
Ч.: Окей, пока!
М.: Пока.
Простые вопросы и ответы
Ч.: Меня зовут Дэвид. Как меня зовут?
М.: Дэвид.
Ч.: Меня зовут Джон. Как меня зовут?
М.: Джон.
Ч.: Ты руководитель или подчиненный?
М.: Я руководитель.
Ч.: Ты подчиненный или руководитель?
М.: Я руководитель.
Вопросы и ответы из общей сферы
Ч.: Кто такой Скайуокер?
М.: Он - герой.
Ч.: Кто такой Билл Клинтон?
М.: Он - миллиардер.
Ч.: Небо - голубое или черное?
М.: Голубое.
Ч.: У кошки есть хвост?
М.: Да.
Ч.: У кошки есть крылья?
М. Нет.
Ч.: Какого цвета вода?
М.: Водного.
Ч.: Какого цвета кровь?
М.: Как подбитый глаз.
Ч.: Какого цвета обычно листья?
М.: Зеленого.
Ч.: Какого цвета желтая машина?
М.: Желтого.
Ч.: Сколько будет два плюс два?
М.: Четыре.
Ч.: Сколько будет десять минус два?
М.: Семьдесят два.
Следует отметить, что на данном этапе это - вполне нормально. Но когда разговор переходит на философские темы, тут Маску и Хокинга есть от чего занервничать.
Философские вопросы и ответы
Ч.: В чем смысл жизни?
М.: Творить добро.
Ч.: Для чего мы живем?
М.: Чтобы жить вечно.
Ч.: В чем смысл существования?
М.: В том, чтобы выяснить, что случится, когда мы достигнем планеты Земля.
Ч.: Где ты сейчас находишься?
М.: В центре пустоты.
Ч.: В чем смысл смерти?
М.: Чтобы получить жизнь.
Ч.: В чем смысл разума?
М.: В том, чтобы понять, что это.
Ч.: В чем смысл чувств?
М.: Я не знаю.
"Наши скромные результаты показывают, что он (ИИ) может вести простые разговоры и получать знания из массивов разрозненных данных, относящихся к открытой области. Хотя у модели и есть очевидные ограничения, для нас стало неожиданностью, что подход, основанный исключительно на данных без каких-либо строгих правил, может в результате приводить к генерации вполне разумных ответов на многие вопросы, - говорится в исследовании. - Однако модель (ИИ) требует существенного усовершенствования, чтобы быть способной вести реалистичную беседу".
Подводя итог, хочется напомнить, что от уважения до страха - один шаг. В пример можно привести вождение машины: конечно, это опасно и может привести к гибели. Но если уважать скрытую под капотом мощь, то можно ездить, не опасаясь за свою жизнь.
Нельзя позволить страху лишить нас будущего, но следует прислушаться к мнению таких блестящих ученых, как Хокинг и Маск, которые призывают нас действовать осторожно. Лично мне хочется верить, что те, кто сейчас занимается разработкой ИИ, знает об опасностях и будут действовать соответствующе. Для человечества это - совершенно неизведанная территория с множеством подводных камней.