Мнения

Ещё в марте этого года стало известно, как некрасиво закончился эксперимент компании Microsoft по применению чатбот-аккаунта в Twitter, созданного на искусственном интеллекте, основанном на нейросети. Уже через сутки компании в спешном порядке пришлось отключить аккаунт, поскольку быстро и эффективно обучающийся бот, изображавший девочку-подростка, «зашёл явно куда-то не туда»: от постов вроде «Привет, мир!» или «Все люди классные» он перешёл к постам, содержащим откровенно расистские и нацистские высказывания, начал обильно употреблять нецензурную лексику, публиковать порнографические твиты с инцестуальным контекстом и тому подобное.

Можно посмеяться над неудачным экспериментом или даже над самим «Мелкософтом», но можно и увидеть на этом примере фундаментальный риск, присущий всем системам искусственного интеллекта, чьё главное отличие от традиционного программного обеспечения, которое базируется на дискретной логике, лежит там же, где и их преимущества: в способе обучения.

Несмотря на то, что научная основа нейросетей была заложена ещё в 70-е годы прошлого века, бум реализации программного обеспечения на их основе пришёлся на нулевые, а в последние пару лет буквально обрёл второе дыхание. Ещё в 2003 году автору этого текста демонстрировали одну из первых пришедших в Россию на тот момент систем CRM (управления отношениями с клиентами) и бизнес-аналитики для малого и среднего бизнеса на основе нейросети, использование которой дало возможность владельцам американских супермаркетов выявить зависимость между продажами больших упаковок памперсов и больших упаковок пива по выходным дням. Когда недоумевающие аналитики вышли в торговый зал, они увидели то, о чём человек мог бы догадаться, но не догадался без ИИ: молодые работающие отцы, желая освободить для своих жён утро выходного дня, чтобы те могли немного отдохнуть, отправлялись в супермаркет с составленным теми списком вместе с маленькими детьми. И одним из пунктов списка, конечно, были памперсы. Совершив покупки, каждый молодой отец желал вознаградить себя за «подвиг» и грузил в тележку большую упаковку пива. Тогда мерчандайзеры усовершенствовали выкладку и поставили на выходные упаковки пива и памперсов рядом: продажи выросли ещё сильнее.

Со временем история попала в учебники по маркетингу.

Как устроена и работает искусственная нейросеть? Принцип немного напоминает работу человеческого мозга. Сеть состоит из искусственных нейронов, которые по сути являются простейшими вычислительными элементами. У каждого такого нейрона есть несколько точек входа «сигнала» и одна точку выхода. Нейроны расположены «виртуальными слоями», для каждого следующего слоя точками входа являются выходы предыдущего слоя. Благодаря такой иерархии межнейронные связи находят зависимости между независимыми переменными аналогично тому, как это делает человеческий мозг (формально значительно более сложно устроенный). Поскольку вычислительные мощности со временем растут, увеличиваются и возможности искусственного интеллекта на основе нейросетей, а также алгоритмы управления и обучения. ИИ переиграл лучших шахматистов уже давно, в го (тоже высокодетерменированная игра) – совсем недавно, и только в нарды (sic!), которые гораздо сильнее завязаны на вероятности, пока ещё не переиграл.

После 2007 года в развитии ИИ произошёл ещё один скачок, когда Джеффри Хинтон из университета Торонто в Канаде предложил алгоритмы глубинного обучения нижних слоёв нейросети. Если вы думаете, что вам дела нет до какого-то там Джеффри и вы находитесь безумно далеко от ИИ и проблем его развития, вы глубоко ошибаетесь: именно приложения на основе этих алгоритмов когда вы фотографируете на свой смартфон, ищут в кадре лица, а также распознают ваши номерные знаки, когда вы превышаете скорость на МКАДе, или тасуют вашу новостную ленту на Фейсбуке, основываясь на том, что вы уже «лайкали» раньше и сколько минут тупили на конкретного котика или конкретную длинноногую девицу.

Кажется, от повсеместного внедрения ИИ на основе Deep Learning и нейросетей человечеству сплошная польза. Тут тебе и беспилотные автомобили вместе с автоматическим и безаварийным городским транспортом, и разного рода самообучающиеся персональные помощники, непредвзятый отбор соискателей на вакансии или объективная оценка на экзамене, ну и так далее, и тому подобное. В конце концов, в компании Hitachi разрешили ИИ управлять персоналом в качестве директора по кадрам, и тот быстро увеличил производительность на 8% без всяких затрат, за счёт одной только оптимизации.

Не случайно в научный оборот уже вошёл специальный термин «чистый искусственный разум»: для случаев, когда машина понимает и решает вопросы, как настоящий человек, но лишена характерных для людей эмоций. Последнее, кстати, может стать конкурентным преимуществом машины перед человеком. Однако, страхи, что роботы, управляемые искусственным интеллектом, скоро вытеснят на обочину жизни и оставят без специалистов огромного числа профессий от дорожных рабочих и водителей грузовых автомобилей до обыкновенных программистов и менеджеров, скорее всего, никогда не реализуются. Наиболее реальные прогнозы говорят, что изменится характер занятости человека, он будет работать в плотной связке с роботами и ИИ, станет их ментором и трекером, а не «слугой» или «рабом».

Однако, наиболее продвинутые и осведомлённые представители рода человеческого всё-таки бьют в набат! Ещё в декабре прошлого года Илон «Технологическое Наше Всё» Маск, основатель SpaceX, SolarCity и HyperLoop создал фонд OpenAI совместно с другими технологическими гуру из Кремниевой Долины и компаниями Google, Apple и IBM именно для того, чтобы предотвратить потенциальный вред, который могут нанести человечеству системы искусственного интеллекта, которым уже скоро будет поручено управлять огромными ресурсами. Несмотря на то, что знаменитые фантасты предвидели проблему «этики» роботов в широком смысле почти сто лет назад, пока человечество не слишком продвинулось в этой области. Маск полагает, что рано или поздно самообучающийся ИИ, управляющий значительными ресурсами, от которых зависит ежедневная жизнь или даже само существование людей, может принять какое-либо очень «продуманное» решение на основе своих данных, которое пожертвует людьми или их интересами ради «общей эффективности».

Откуда берутся эти страхи?

Человек проектирует ИИ, создаёт алгоритмы его обучения, но сам он остаётся, по сути, таким же чёрным ящиком, как и человеческий мозг. У нас есть представление о том, что происходит внутри, но на самом деле мы до сих пор не знаем, как он работает! Поэтому не исключено, что так же, как с TayTweets от Майкрософт, которого погубили злые пранкеры, научив дурному, какой-нибудь «Доктор Зло» так же научит систему, управляющую АЭС или воздушными пассажирскими перевозками создавать катастрофы.

Каких-то 200 лет назад философы всерьёз рассуждали о том, что высокий интеллект и образование напрямую влияют на общую культуру и этические ценности индивидуума. Современные исследования показывают, что они ошибались: галерея отъявленных преступников и знаменитых террористов из хороших семей и с превосходным образованием гуглится элементарно, даже если вы не сможете вспомнить их самостоятельно. Так что OpenAI не выглядит нелепой затеей: как говорится, готовь сани летом. Не исключаю, что уже в ближайшие годы в законодательстве наиболее развитых стран появятся законы, регулирующие принципы обучения ИИ и их взаимоотношение с отдельным человеком и всем человечеством.

А пока... а пока я рекомендую вам попробовать AI на зуб, не откладывая. В конце концов, ему всё равно, какие данные вы ему скормите, он может даже в качестве плагина к Excel сообщить вам что-то, что вы, видя каждый день, не осознаёте и нужных выводов не делаете.