Как ИИ и нейросети используют для генерации детского и взрослого порно

[Kreata]

Мне кажется, если количество таких случаев будет расти, то их значимость сильно обесценится. То есть очень быстро общество придет к пониманию ничтожности подобного явления. Ну типа как смс: "мама, я в беде, срочно переведи денег на...". Да и сейчас кто-то ловится, но большинство поджимает плечами и все.
Значимость видео как доказательства безусловно упадет, но если говорить о расследованиях, то наверное по видео можно определить манипуляции с исходным контентом и работу нейросетей? Я бы больше об этом волновалась, а порно это мелочи, особенно для человека взрослого.

[ЭЛЗА]

порно это мелочи, особенно для человека взрослого.

Детское порно - это мелочи?

[Kreata]

порно это мелочи, особенно для человека взрослого.

Детское порно - это мелочи?

Детское порно - это, конечно, вещь нехорошая во всех видах, кроме разве что рисованного какого-нибудь. В виде сделанного ии оно, по крайней мере, только психологические, а не психологические и плюс еще физические страдания причиняет "участникам". Тут речь уже и про другие виды порно пошла ведь.

[David]

Надо если не возможно законами,то всяческой поддержкой компаний или фирм,способных создать (програмно) вычислителя,что это цифровой шум,фейк,грязь.
Так сказать,антидот создать.

[annarepp]

Согласна. Но и законы, думаю, появятся. Например, можно обязать все ИИ ставить метки, чтобы знать какие картинки были взяты за основу; и создавать программы "обратного" распознавания. Техническая возможность запомнить все исходники уже есть. Я продаю стоковые иллюстрации на Адобе и на Шаттерстоке; и обе компании уже объявили, что авторам работ, использованных в создании сгенерированных нейросетью картинок, будут выплачивать авторские проценты. Т.е. оба техногиганта точно все отслеживают и записывают. Как быть с другими программами, которые берут фото и видео не из своей собственной базы данных, а из всей сети, пока не понятно. Но именно что пока. Это вообще нормальное состояние прогресса - появляется что-то новое, преступники берут эту технологию на вооружение, но потом подтягиваются федералы и полиция и придумывают как с новым злом бороться. А потом появляется еще что-то, и история идет на следующий виток.

Кстати, интересный факт - среди художников уже известно, что нейросетка не умеет "рисовать" руки Вот клинит ее на руках, особенно если пальцы переплетены или жест нестандартный. Так что пока, если есть подозрение, что фото сгенерировано ИИ то, буквально, следите за руками (потом, конечно, научат ИИ и пальцы рисовать.) В данном случае старый добрый Фотошоп дает более правдивую картинку, т.к. фотошопит все-таки человек, который знает, сколько у человека пальцев и какой они длины 

[yobabubba]

Согласна. Но и законы, думаю, появятся. Например, можно обязать все ИИ ставить метки

Есть такие инициативы. Но это полностью проблему не решит. Известные нейросетки можно обязать. Но люди могут и свои какие-то пиратские писать (с другой стороны там мощности надо). Короче говоря, определенная борьба все равно будет в этом направлении. Сейчас этап взрывного роста этих технологий просто. И кстати, нейросетка - это не ИИ. Это метод обучения потенциального ИИ. Машинное обучение - есть такая отрасль. Так что нейросеть способна лишь на конечное количество вариаций человеческого опыта в отдельно взятой области.  Все. Своего она ничего не создает. Может только перекомпилировать уже созданное. К интеллекту не имеет отношения. Это, скажем так, кусок ИИ, который когда-нибудь может быть создан (но пока даже близко нет).

[Kreata]

Кстати, интересный факт - среди художников уже известно, что нейросетка не умеет "рисовать" руки

Блин, погуглила статьи на эту тему с иллюстрациями - здравствуйте, мои ночные кошмары на следующую неделю!

yobabubba, я плохо в этом разбираюсь, но, как мне кажется  в этом-то и проблема. Из ничего нейросеть детское порно не сделает. То есть она может наложить больше вариантов лиц на уже готовую картинку - правильно я понимаю? То есть все равно изначально некий ребенок все равно пострадал.

[yobabubba]

То есть она может наложить больше вариантов лиц на уже готовую картинку - правильно я понимаю?

Ну, не только лиц, но да - понимаете правильно.

То есть все равно изначально некий ребенок все равно пострадал.

Ну для обучения нейросетке нужно много изображений. Очень много.

[Kreata]

Ну для обучения нейросетке нужно много изображений. Очень много

И это беда пострашнее, чем то, что чье-то лицо из соцсетей попрут...

[l84]

Технически, насколько я понимаю, можно взять взрослых на видео, ребенка на обычном фото и сгенерировать контент. Пока не только руки, но лапы так себе получаются. Про «даму с горностаями» и Кандинского знаете? Рисовалка на базе нейросетки вместо горностаев упорно рисует горняков ))