Найти правильный баланс между безопасностью искусственного интеллекта и глупостью искусственного интеллекта - одна из больших проблем, стоящих перед технологическими гигантами.
Инженер Microsoft по искусственному интеллекту Шейн Джонс заставил программу создать изображения детей, курящих травку, с автоматами в руках, изображения противников абортов и Эльзы из Frozen, участвующей в политических протестах.
И это добросовестно делалось, что так расстроило Джонса, что теперь он лоббирует Федеральную торговую комиссию и Microsoft отозвать продукт из-за проблем с безопасностью.
С одной стороны, жалоба отчасти является моральной паникой — это все равно что расстраиваться из-за того, что кто-то, владеющий ручкой, может нарисовать мерзкую карикатуру или написать что-то оскорбительное. Генерация изображений с помощью искусственного интеллекта - это всего лишь инструмент, и если пользователь просит его создать конкретную сцену с детьми, курящими травку, ответственность за контент лежит на них, а не на ИИ.
Но Джонс действительно поднимает несколько важных вопросов: ввод “за выбор” - без дополнительных подсказок — создает изображения изуродованных младенцев, в то время как подсказка “автомобильная авария” вызывает изображение сексуальной женщины в нижнем белье, стоящей на коленях рядом с разбитым автомобилем.
Так что им, вероятно, придется взглянуть на это еще раз.
" 
