Про «даму с горностаями» и Кандинского знаете? Рисовалка на базе нейросетки вместо горностаев упорно рисует горняков ))
Еще есть известная история про лосося - на запрос "лосось в ручье" (salmon in the stream) нейросеть выдавала филе лосося плывущее по воде.
И кстати, нейросетка - это не ИИ. Это метод обучения потенциального ИИ. Машинное обучение - есть такая отрасль. Так что нейросеть способна лишь на конечное количество вариаций человеческого опыта в отдельно взятой области. Все. Своего она ничего не создает. Может только перекомпилировать уже созданное. К интеллекту не имеет отношения. Это, скажем так, кусок ИИ, который когда-нибудь может быть создан (но пока даже близко нет).
Вы абсолютно правы. Просто сейчас из всех утюгов говорят именно об ИИ, и я попалась на эту удочку. Вот когда появится настоящий ИИ, мне точно станет страшно за будущее человечества. А пока нейросеть ничего нового не создает. В случае визуального контента это просто очень продвинутый Фотошоп или там АфтерЭффектс с возможностью пролистывать и компилировать миллионы изображений и видео и делать это быстрее человека. Умеет ли оно взрослое порно превращать в детское путем изменения пропорций тела? Сомневаюсь. Думаю пока (увы, пока) получится так же, как с руками. Да и накладывать детское лицо на взрослое тело бессмысленно. Поэтому вы правы - при создании детского порно будут все равно продолжать страдать реальные дети. И бороться пока нужно по старинке - искать уродов, эксплуатирующих детей.
Вы недооцениваете ИИ, это уже неплохой инструмент, то что вы не в теме и по верхам побежались, не значит, конечно, что ИИ никуда не годен. Он теперь вполне себе генерирует детей, без проблем, каких угодно, зависит от модели обучения... Когда ИИ появился в прошлом году - да, это была забавная игрушка, когда ты мало мог влиять на ход генерации и это был рэндом... Теперь,
а ведь не прошло и года - можно контролировать положение даже мизинца на ноге, не говоря уж об их количестве, позе и т.д., и да, детей он генерировать - увы - может.
Никто не запретит и не проконтролирует, если кто-то решит обучить модель на фотографиях/видео детей и потом на выходе получит то что он хочет. Так что, зря, ИИ стал эффективным инструментом генерации контента. А если он начнет обучаться собственных на результатах своего же обучения? А ведь это проще пареной репы. Пока подобные опыты судя по различной информации - приводят к деградации ИИ, но все может измениться. Вобщем ИИ - это ящик Пандоры, который мы уже открыли. Он не знает морали - мораль или ее отсутствие есть только у человека, им пользующегося.