«Порохом пропах» и поэтому не подходит детям: почему умной колонке не понравилась песня «День Победы»

Алгоритм умной колонки признал песню «День Победы» вредной для детей Поделиться

Недоброе утро выдалось у депутата заксобрания Пермского края Ирека Хазиева. В соцсетях он рассказал, что его дети, собираясь в школу и детский сад, часто просят умную колонку включить их любимые мелодии — и вот на сей раз им захотелось послушать духоподъемную песню «День Победы». Вот только искусственный интеллект отказал — бесстрастная «Алиса», которой неведом патриотизм и прочее человеческое, заявила, что «эта песня не для детей». Правда, что ли?..

Фото: dpa/Global Look Press

тестовый баннер под заглавное изображение

Депутат, мягко скажем, удивился. И тотчас написал массу претензий — во-первых, компании, выпустившую умную колонку, во-вторых, уполномоченной по правам ребенка при Президенте РФ Екатерине Мизулиной, в-третьих, Маргарите Симоньян. В произошедшем, естественно, тотчас усмотрели покушение на основополагающие для гражданина России ценности, попытки обесценить историю и лишить детей знаний о тех великих годах… вот только на самом деле всё гораздо проще. Для понимания произошедшего достаточно вспомнить, что искусственный интеллект — он, пардон, за тавтологию, искусственный. Потому не рефлексирует, а действует строго в соответствии с алгоритмом. И алгоритм этот в данном случае зиждется на федеральном законе «О защите детей от информации, причиняющей вред их здоровью и развитию». 

И там обнаружится, помимо прочего, упоминание оружия. Пожалуйста: «Этот День Победы порохом пропах». Вуаля! Искусственный интеллект не для того создан, чтобы разбираться, к чему тут порох — идет ли речь о создании взрывчатки в домашних условиях или о подвиге советских бойцов в 1941-1945 гг. У Алисы — алгоритм: детям про порох знать негоже! Всё, точка.

История абсолютно из той же оперы, что и анекдоты о том, как искусственный интеллект ограничивает в показах фоторепортажи из какого-нибудь Пушкинского музея — мол, «откровенный контент», снова 18+. Та же история: обнаженная задница, а то и какие части тела поинтереснее, в наличии — и поди докажи, что это обнаженная задница мраморной статуи, а не живого человека. Искусственный интеллект в такие детали не вдается. Ну а тут — аж целый порох! Услышит про него детское ухо — так сразу либо испугается, либо решит попробовать воспользоваться…  

Что же ждать дальше? ИИ не будет включать деткам сказки про Бабу-ягу, которая зажарила Иванушку в печи? Или братьев Гримм, где младенцев ели даже их родители? Да и сахарный с виду Андерсен жестил как Стивен Кинг. Ведьмы у него разрывают свежие могилы и достают оттуда покойников («Дикие лебеди»), студенты вырезают из бумаги висельников с сердцем в руке. И это — в подарок маленькой девочке («Цветы маленькой Иды»). Отрубленные ножки девушки пляшут перед бывшей хозяйкой в красных башмачках («Красные башмачки»), мертвые младенцы, приносимые аистами в семьи, где дети дразнились и обзывались («Аисты»).

«МК» спросил у адвоката Василия Бурдюга, есть ли черный список слов, запрещенных для детей, или каждый программист определяет его самостоятельно.

Для детей законодательно запрещено все, что связано с насилием и сексуальной сферой.  Считается, что для нормального развития ребенка лучше, чтобы эти сведения попадали к нему в зрелом возрасте. Чтобы насилие не воспринималось как норма жизни.  Однако сказки стали нашим культурным кодом, и песни о войне тоже. В песнях прославляется мужество, героизм и упоминается кровопролитие. И не всегда можно совместить в технологиях эти формальные ограничения и культурные коды. Роботы этого не понимают. Возможно, мы сможем научить наших роботов быть русскими (англичанами, французами, китайцами) и понимать наш менталитет. А пока список стоп-слов определяет программист. Вон он решил, что «порох» — это относится к насилию, терроризму. Его исключили, особо не задумываясь. Вышел конфуз.  

Финальный вопрос: а как, собственно, бездушная Алиса поняла, что песню «День Победы» просит включить ребенок, а не дядя средних лет и не старичок-ветеран? Да всё просто: современные умные устройства настолько умные, что их можно научить реагировать на детский голос иначе, чем на взрослый — и контент давать соответствующий. Только тот, что предназначен специально создан для маленьких детей: колыбельные, детские песни, простые сказки и т.д. Так что если хочется послушать с детьми патриотические песни, выход прост: попросить об этом «умную колонку» взрослым голосом — и никаких проблем. Или наоборот — отключай любые ограничения и «родительский контроль» и позволяй своему ребенку плавать по волнам Интернета в свободном режиме. Тоже вариант.