Глубокое обучение и великая революция ИИ наконец-то произошли. Глубокие нейронные сети продолжают делать невероятные скачки в своей способности удивлять нас и побеждать людей в задачах, которые, как мы думали, машины никогда не справятся лучше нас, таких как распознавание изображений и игра «вперед».
Нам хотелось бы так думать.

Недавние разработки и прогресс в машинном обучении и, в частности, в глубоком обучении были провозглашены новой зарей для настоящего искусственного интеллекта. Победа AlphaGo над чемпионом мира по игре в го Ли Седолем удивила многих, ведь го — игра гораздо более сложная, чем шахматы. Однако будет ли это настоящим качественным шагом вперед в создании настоящего жесткого искусственного интеллекта, еще предстоит выяснить.

Наш мозг был смоделирован миллионами лет эволюции, и каждая форма жизни может быть наделена такими невероятными особенностями, которые пока не могут реализовать наши самые передовые технологии. Фактически, многие современные изобретения были вдохновлены биологией. Мозг развился после миллионов лет естественного отбора, но природа глупа и работает посредством случайных генетических мутаций.
Эти случайные, неразумные мутации, тем не менее, получают «проход» или «провал» в зависимости от их успеха. общая среда, в которой они установлены. Через тысячу лет лучшие мутации побеждают. Естественный отбор, хоть и немой, но время на его стороне.

В течение миллионов лет, миллионов поколений эволюционировали новые и лучшие организмы, и разум является лишь побочным продуктом этой эволюции, но процесс, посредством которого природа способна достичь этих результатов, является случайным. Процесс естественного отбора — глупый процесс, и ни один серьезный ученый ни в коем случае не стал бы считать природу разумной, а эволюцию — разумным по своей сути замыслом.

AlphaGo и большая часть современного так называемого «глубокого обучения», несмотря на шумиху, работают аналогичным образом. AlphaGo изучила правила и улучшила свои возможности, сыграв в тысячи игр. Системы глубокого обучения работают, анализируя очень большие объемы данных. Тем не менее, научное сообщество с энтузиазмом относится к глубокому обучению, а иногда даже опасается, что оно станет слишком умным.

Честно говоря, глубокое обучение работает более разумно, чем природа, и его прогресс не является полностью случайным. ИНС строятся путем «настройки» их весов, параметров, которые позволяют ИНС обучаться с помощью некоторой формы оптимизации, такой как градиентный спуск и обратное распространение. Тем не менее, процесс довольно механический и не очень сложный, и без большого количества данных, как и в природе без длительных периодов времени, многие ИНС не смогли бы многому научиться.

Подобно «сволочи» в классе, который преуспевает только в том, что тратит все свое время на учебу, по сравнению с действительно умным учеником, который действительно понимает предмет и способен быстро понять основные понятия и даже обобщить их, ИНС может произвести впечатление. результаты, но только благодаря большому количеству данных, и его понимание весьма ограничено.

Реза Ганадан, руководитель программы DARPA (Агентство перспективных оборонных исследовательских проектов), отметил, что даже небольшое изменение в задаче часто требует от программистов создания совершенно нового процесса обучения машин, и сказал: «Если немного изменить несколько правил игры в го, для Например, машина не сможет обобщить то, что она уже знает. Программистам придется начинать с нуля и повторно загружать набор данных порядка десятков миллионов возможных ходов, чтобы учесть обновленные правила».

Жизнь на Земле несколько раз была почти сметена катаклизмами, потому что эволюция смогла создать много живых существ, которые очень хорошо приспособились к жизни на Земле, но не смогли хорошо приспособиться к слегка изменившимся обстоятельствам. Точно так же ИНС может привести к созданию машин, способных выполнять очень сложные задачи, например победить чемпиона мира по го, но быстро выйти из строя, как только внешние обстоятельства слегка изменятся.

В статье Ан Нгуена, Джейсона Йосински и Джеффа Клуна «Глубинные нейронные сети легко обмануть: прогнозирование с высокой достоверностью для нераспознаваемых изображений» было показано, как можно легко обмануть глубокие нейронные сети, думая, что определенные изображения являются чем-то другим, делая их неразличимыми. но обдумывал изменения в изображениях. Авторы показывают, как незаметные изменения в изображениях могут привести к тому, что глубокая нейронная сеть полностью неправильно классифицирует изображение, и аналогичным образом, показ изображения, которое кажется просто шумом, приведет к тому, что сеть будет делать прогнозы с высокой степенью достоверности. Это делается путем манипулирования несколькими пикселями, так что использование градиентного спуска приведет сеть к полностью ошибочным результатам.

Вышеупомянутая статья, по крайней мере, должна указать на то, что глубокое обучение, хотя оно и может быть эффективным, определенно работает иначе, чем человеческий мозг. Несмотря на то, что глубокое обучение очень эффективно для решения конкретных проблем, оно все еще довольно далеко от того, что мы думаем об интеллекте, скорее, оно кажется более близким к системам естественного отбора, «чуть лучше, чем случайный», за счет использования большого объема данных и, работая очень быстро, длительные периоды виртуального времени. Хотя волнение от последних достижений можно понять, мы также должны понимать, что мы все еще далеки от создания действительно разумной машины. Настоящее обучение заключается не в «выигрыше» в игре, а в способности использовать знания для адаптации, а мы все еще очень далеки от достижения этого.