У липні минулого року штучний інтелект заблокував YouTube-канал хорватського шахіста Антоніо Радича, що налічував понад мільйон підписників. Алгоритм переплутав ігрові терміни з расизмом.
Уже за добу Youtube відновив канал, проте не вказав конкретної причини блокування. У повідомленні лише йшлося, що контент каналу “шкідливий та небезпечний”. Сам шахіст припустив, що платформа обмежила доступ до каналу через фразу “чорні проти білих”, яка стосувалася шахової гри.
Наразі фахівці з Університету Карнегі-Меллон з’ясували, що штучний інтелект неправильно класифікує 82% повідомлень на каналах про шахи. Причиною помилки стали, зокрема, слова “чорний”, “білий”, “напад” та “загроза”. Система сприймає їх як расизм та мову ворожнечі.