В «голове» искусственных нейронных сетей

24 марта, 2020 In Uncategorized

С глубоким обучением искусственный интеллект достигает впечатляющих результатов. Но даже исследователи не знают точно, что происходит в «голове» машины, и хотят это изменить.

Глубокое обучение — это настоящее волшебное слово в исследованиях искусственного интеллекта. Искусственные нейронные сети, которые примерно основаны на функционировании биологических нервных систем и которые обучаются с помощью этого метода, достигли удивительного уровня производительности в последние годы. Китайская настольная игра Go долгое время считалась оплотом человеческого превосходства до того, как программа AlphaGo 2017 победила действующего чемпиона мира. Он использует искусственную нейронную сеть, которая ранее широко применялась при стратегии глубокого обучения. Неудивительно, что искусственный голосовой помощник Apple Siri также работает с использованием этого метода. Кроме того, в автомобилях с автономным управлением есть глубокие сети искусственных нервных клеток, которые старательно практикуют дорожное движение по всему миру.

Теперь играть в Go — это одно, а водить машины через реальный трафик — совсем другое. Неправильное движение в настольной игре болезненно, ошибка вождения может стоить жизни. Помощник водителя Tesla S, который производитель с гордостью называет автопилотом, несколько раз въехал стоящие автомобили. Прежде чем позволить ИИ за рулем, вы должны точно знать, как он принимает свои решения. Как еще можно безопасно избежать того, что автомобиль с автоматическим управлением реагирует совершенно неправильно, несмотря на длительные тренировки, и, возможно, приводит к аварии? Красиво анимированное видео на канале YouTube журнала Science ясно показывает, что даже исследователи искусственного интеллекта не могут знать, что происходит внутри сетей.

Прежде всего: подобно своим биологическим собратьям, искусственные нейроны получают информацию от других нейронов, обрабатывают ее и передают дальше. Искусственные нейронные сети организованы по слоям. Нейроны входного слоя получают данные из внешнего мира. В простейшем случае эти элементы взаимосвязаны и, таким образом, также принимают на себя обработку и вывод. В глубоких сетях, однако, структура является более сложной. Многочисленные скрытые промежуточные слои следуют за входным слоем. В конце есть стартовый слой, который сообщает о своих результатах внешнему миру.

Когда кто-то первоначально пытался обойтись только с одним промежуточным уровнем, исследователи были несколько удивлены, обнаружив, что десять лет назад нейронные сети со многими промежуточными уровнями учатся лучше. Это особенно актуально для тех, кто работает с недавно разработанным методом коррекции обратного распространения (ошибка обратной связи). Сегодняшнее глубокое обучение было изобретено. Обратное распространение обеспечивает быстрое обучение, но требует больших вычислительных ресурсов. Метод должен выполнять большое количество простых арифметических операций параллельно. По совпадению, это именно сила современных высокопроизводительных видеокарт. Внедрение алгоритмов глубокого обучения на графических процессорах (графических процессорах) положило начало этому методу ИИ .

Как определить, что именно происходит в бесчисленных промежуточных слоях, видео дает несколько предложений. Можно было бы посмотреть на отдельные нейроны в промежуточных слоях, чтобы определить, какой вход активирует их больше всего. Это привело к потрясающим результатам. В системе распознавания изображений нейрон бурно реагировал на контуры лиц. Однако сеть была обучена распознавать только объекты на изображениях, а не людей. Очевидно, на фотографиях было много лиц , которые использовались для обучения сети . Еще один способ внести некоторую прозрачность в работу сетей — это одновременное обучение определенным базовым правилам.

Относительно короткое видео посвящено этим двум вариантам, но теперь разработчики систем искусственного интеллекта также используют другие варианты. Давайте возьмем программу ИИ, которая должна сказать, является ли обзор фильма положительным или отрицательным. Чтобы проверить, на чем программа основывает свою оценку, вы начинаете с текста, который он четко классифицировал правильно. Затем вы продолжаете изменять отдельные слова или части предложений. В какой-то момент становится ясно, какие слова или какая структура предложений особенно важны. Программа может рассматривать появление слова «ужасающий» как верный признак того, что рецензент не любит фильм.

Но, в конечном счете, все эти подходы являются лишь временными и не дают абсолютно никаких гарантий того, что сложный искусственный интеллект будет правильно реагировать в критический момент. Но становится хуже: чем сложнее ситуация, тем менее четко можно определить, что правильно. Допустим, что лечение с помощью ИИ в отделении неотложной помощи больницы приводит к смерти пациента. Оглядываясь назад, эксперты считают, что ИИ принял неправильные решения. Но лечение пациента должно было начаться немедленно, система должна была решить, прежде чем она смогла выработать все варианты. Не поступил бы человек по-другому в таком случае — молниеносно и чисто интуитивно?

Чем больше искусственного интеллекта проникает в нашу повседневную жизнь, тем важнее становятся такие вопросы. Видео предлагает введение в проблему, не более того. В конечном счете, показанных методов недостаточно, чтобы действительно исследовать систему ИИ. И они помогают в очень ограниченной степени, когда дело доходит до исправления ошибки, когда вы ее нашли. Потому что с обычной программой часто достаточно изменить команду. Но неправильно обученная система ИИ должна учиться неохотно — как человек.

Leave a comment

Your email address will not be published. Required fields are marked *