Автор Тема: Как ИИ и нейросети используют для генерации детского и взрослого порно  (Прочитано 6729 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Влада Галаганова

  • Администратор
  • Мастер
  • *
  • Сообщений: 3962
  • Золотое Перо
    • Награды
Это тема новостная и очень спорная, но, на мой взгляд, требующая если не обсуждения, то хотя бы её осознания.
 
Что такое нейронные сети, искусственный интеллект, и на что это всё способно на сегодняшний день, описывать не буду.
Если очень коротко и примитивно: нейросети можно «скормить» видео и фото любого реального человека, взятые, к примеру, из соцсетей, и дать задание - используя голову этого человека, «приделать» к нему всё остальное, «оживить картинку» и сгенерировать какое-угодно изображение.
Таким образом ваши фото и видео, а также фото и видео вашего ребёнка могут быть трансформированы в самые фантастические картинки.
Хочу рассказать о двух новостных историях, которые очень наглядно демонстрируют, к чему это может привести.
Во избежание недопониманий.
Никого ни в чём не планирую убеждать и даже предостерегать. Это лишь информирование. Мне кажется, стоит осознавать появляющиеся реалии сегодняшнего дня.
[ Гостям не разрешен просмотр вложений ]

Первая история.
 
В Канаде осуждён педофил, создававший и распространявший детское порно, сгенерированное с помощью нейросетей.

Мужчина в Квебеке, Канада, был приговорен к трем годам тюремного заключения за создание изображений детского порно с помощью ИИ.
61-летний Стивен Ларуш признал себя виновным в создании как минимум семи сгенерированных искусственным интеллектом дипфейковых видеороликов с детской порнографией, в которых лицо одного человека совмещается с телом другого.
Ларуш также признал себя виновным в хранении сотен тысяч компьютерных файлов с детской порнографией, за что был приговорен к дополнительным четырем с половиной годам заключения.
В своём постановлении судья Бенуа Ганьон назвал это дело первым подобным в Канаде. А также выразил обеспокоенность, что преступники начали использовать технологию искусственного интеллекта для «размещения» лиц детей, чьи изображения они находят в социальных сетях, на видео других детей, подвергающихся сексуальному насилию.
«Простой фрагмент видео (например, с празднования дня рождения), который вы выложили в соцсеть, может превратить вашего ребёнка в потенциальную жертву детской порнографии».
Адвокаты Ларуша выступали за более мягкий судебный приговор. Их главным аргументом было отсутствие реального насилия над детьми.
Однако суд не принял эти доводы. Во-первых, по мнению присяжных и судьи, сексуальная неприкосновенность этих детей всё равно была нарушена. А, во-вторых, сгенерированные изображения не имеют цифровых следов, по которым полиция их находит. Из-за этого существенно усложняется следственная работа по обезвреживанию преступников и распространяемого им мерзкого контента.
В феврале 2023 года похожие обвинения получил первый человек в Испании. Он тоже сгенерировал детское порно с помощью нейросетей.
На сегодняшний день ещё ни в одной стране мира не существует законодательства, которое бы запрещало и карало использование изображений реальных людей (без их согласия) в создании какого угодно контента.
И в Канаде, и в Испании педофилов осудили просто за создание и распространении детского порно, а не за то, что для этого они использовали чужие изображения и ИИ.
 

Вторая история.
 
Порноместь, созданная нейросетью.
На реддите в тренде оказалось видео девушки, на котором она со слезами на глазах описывает месть, учинённую ей бывшим парнем - https://www.reddit.com/r/facepalm/comments/137qni0/why_me_ai_generated_harassment/
Якобы (проверить достоверность описываемой ею информации невозможно) бывший бойфренд сгенерировал с помощью нейросети обнажённые фото и видео с данной девушкой. После чего выложил на множестве ресурсов.
Девушка, рыдая, объяснила, что не знает, как с этим смириться. Что ей тошно и обидно. А ещё назвала всех людей, комментирующих эти фейковые изображения, насильниками.
[ Гостям не разрешен просмотр вложений ]
На пост девушки откликнулись тысячи людей. Если объективно, то большинство из них её жалеют. Другие комментаторы советуют «забить» и не обращать внимание. Третьи говорят, что, выходя в паблик со своими фото и видео изображениями, ты должен быть готов - найдутся люди, которые будут тебя хейтить, буллить, ненавидеть, сталкерить и использовать твои изображения в каких угодно меркантильных и низменных целях.
Четвёртые – заметили, что на бедре девушки виднеются шрамы от ровных порезов. Скорее всего, это свидетельство её самоповреждений и нестабильности психики.
Пятые и вовсе не верят в её слёзы, считая эту историю пиаром и привлечением к себе внимания.
 
Думаю, этой информации достаточно для понимания появившегося тренда.
Во все века были люди, умудряющиеся даже самые мирные, пристойные и полезные открытия использовать в корыстных целях. В этом нет ничего нового. И это, разумеется, не должно означать, что новые технологии нужно запрещать.
Однако знать о том, что происходит в реальности, всё же стоит.
Уже вижу, что кто-то делает для себя вывод: соцсети – зло, ни меня, ни моих детей там не будет. Таким образом я избегу множества проблем.
Другие говорят: хейтеры мне не страшны, с буллингом и сталкерством я справлюсь, а по поводу фейков, так главное – я-то знаю, что это неправда. С ребёнком, конечно, поговорить надо. Если с ней/ним что-то подобное случится, на это не нужно реагировать и переживать.
 
А какой тип реакции на такое выберете вы?
Глупость не спрашивает, она объясняет.
С дураком ты всегда занят и трудишься в поте лица. Он тебе возражает и возражает, ибо уверен!
И от этих бессмысленных возражений ты теряешь силу, выдержку, сообразительность, и чувствуешь, какой у тебя плохой характер




speirs

  • Мастер
  • *****
  • Сообщений: 512
    • Награды
По поводу "выходя в паблик со своими фото и видео изображениями, ты должен быть готов - найдутся люди, которые будут тебя хейтить, буллить, ненавидеть, сталкерить и использовать твои изображения в каких угодно меркантильных и низменных целях" - во-первых несколько поздно... 20 лет мир выкладывает в сеть себяшки, а теперь здравствуйте. Во-вторых, даже те, кому чужд инстаграм все равно попадали в сеть на общих фото, на фото друзей, учебных заведений, с мест работы и т.д. В-третьих - да ладно, сколько было скандалов с ворованными из облака фото звезд? Кому очень надо - украдут и сделают.

Быть в соцсетях или нет - дело каждого, но часто - необходимость. Я без проблем найду фото своего стоматолога, риелтора и преподавателя в качестве и количестве, достаточном для создания дипфейков - и это будут фото из их профайлов. При этом я бы засомневалась, обращаться ли к стоматологу и преподавателю, который даже страницы или фото на сайте больницы не имеет. Просто нужны новые законы, вот и все.
Некоторые, впрочем, только выиграют. Теперь любой видеокомпромат можно объяснить развитием нейросеток. Может быть вы знаете случаи, когда девушек шантажировали их голыми фото или интим-видео? Вуаля, попытка шантажа будет разбиваться о "да выкладывай, я скажу что это дипфейк".


Uliana

  • Мастер
  • *****
  • Сообщений: 640
  • Криминальный репортер
    • Награды
Откроется путь для компромата богатых и влиятельных людей. От некоторых обвинений отмыться будет очень сложно.


kotopes89

  • Старожил
  • ***
  • Сообщений: 284
    • Награды
Странноватую вещь я скажу но....  если ктото хочет иметь детское порно то он будет его иметь. незаконно,но будет.  Купит,найдёт,совратит ребёнка и сделает видео сам....  А вот если это можно будет получить БЕЗ детских страданий -то уж хрен бы с ним пусть будет. при всей аморальности данного дела,лично я считаю,если оно хоть в какойто мере спасёт реальных,живывых детей от вовлечения их в порнографию -то пускай существует,хрен бы с ним. Про взрослое я не говорю даже, там люди в большинстве своём делают это всё добровольно, так что и хрен бы с ними если они уже такие развращёнными. Хотя я бы конечно запретила это чтобы это было нелегально, а не имело право транслироватся на платных взрослых каналах. Ибо нефиг. но это уже личное дело взрослых. а вот детей жалко,и уж лучше пусть это будет сгенерированная картинка чем реальные съёмки для которых реально будут страдать дети.

Анасчёт присутствия/отсутствия в соцсетях, я очень даже приветствую тех людей которые их не имеют,или имеют полудохлую страничку без единой фотографии,только для связи с кемто. Я считаю так,твои друзья (если они друзья,или хотябы приятели,знакомые) и так знают как ты выглядиш.сколько тебе лет и чем ты увлекаешся.  А если это незнакомые в реальной жизни люди -то нафиг они тебе нужны? Мы же не даём каждому незнакомцу в транспорте и на улице папку со своей биографией,и фотоальбомом начиная с детских лет. так с чегобы в интернете вести себя подругому? ))


Robofat

  • Мастер
  • *****
  • Сообщений: 2117
    • Награды
Откроется путь для компромата богатых и влиятельных людей. От некоторых обвинений отмыться будет очень сложно.
Откроются пути любое видео обьявить сгенерированым ИИ
Life is pain. Hope fails.


Liliya

  • Мастер
  • *****
  • Сообщений: 2226
    • Награды
Откроется путь для компромата богатых и влиятельных людей. От некоторых обвинений отмыться будет очень сложно.
Откроются пути любое видео обьявить сгенерированым ИИ
Но также откроются и пути любое сгенерированное видео принимать за подлинник. "Аааа. Он(а) наверняка лжет что видео с ним дипфейк. Наверняка это подлинное видео".

Короче смешаются в кучу подделки и подлинники и будет совершенно непонятно где ложь а где правда.


yobabubba

  • Администратор
  • Мастер
  • *
  • Сообщений: 6088
  • У меня фиг проскочишь!
    • Награды
Ну, как сейчас легко можно определить, подверглось ли фото обработке, так и с видео это можно будет определить. С видео будет и проще, поскольку подделывать его сложнее. Скажем во втором случае в этом топике подделка-то легко определялась.


annarepp

  • Старожил
  • ***
  • Сообщений: 278
  • Меценат
    • Награды
Спасибо Влада, вы подняли очень важный вопрос! Нейросетки и ИИ - это уже наше настоящее. Фарш невозможно провернуть назад и джина вновь в бутылку не загонишь. (Пою на мотив "Старинные часы" ) Увы, но на нас уже начала падать лавина сгенерированных фото, видео и аудио - и если большая часть из них безобидна, то даже сотой процента хватит, чтобы испортить кому-то жизнь...  Я сама создаю цифровой контент, дружу с художниками использующими нейросетку и знаю - создать шедевр в нейросети может только профессионал, но наклепать фоточек и видео похожих на кого-то может любой.

Я не знаю как остановить ИИ зло... Я даже представить себе не могу как можно сформулировать закон на государственном уровне, чтобы напугать генераторов порноконтента... Думаю нам всем как обществу придется привыкнуть к тому, что твое лицо и тело может появиться где угодно в каком угодно контексте. И поддерживать людей и компании, которые умеют разоблачать дипфейки.

А насчёт присутствия/отсутствия в соцсетях, я очень даже приветствую тех людей которые их не имеют,или имеют полудохлую страничку без единой фотографии,только для связи с кемто. Я считаю так,твои друзья (если они друзья,или хотябы приятели,знакомые) и так знают как ты выглядиш.сколько тебе лет и чем ты увлекаешся.  А если это незнакомые в реальной жизни люди -то нафиг они тебе нужны? Мы же не даём каждому незнакомцу в транспорте и на улице папку со своей биографией,и фотоальбомом начиная с детских лет. так с чегобы в интернете вести себя подругому? ))

Увы, этот принцип не работает, если ты хоть немного публичная фигура или зарабатываешь на жизнь продвижением своего таланта и/или контента. Певец или музыкант не может не иметь ни одного видео с собой на сцене. Художники и фотографы публикуют инфу о своих выставках и публикациях. Об актерах или политиках я вообще молчу. Или вот выше написали верно - я скорее поверю доктору, у которого на сайте есть фото и биография, чем просто пустой страничке.


kotopes89

  • Старожил
  • ***
  • Сообщений: 284
    • Награды
Увы, этот принцип не работает, если ты хоть немного публичная фигура или зарабатываешь на жизнь продвижением своего таланта и/или контента. Певец или музыкант не может не иметь ни одного видео с собой на сцене. Художники и фотографы публикуют инфу о своих выставках и публикациях. Об актерах или политиках я вообще молчу. Или вот выше написали верно - я скорее поверю доктору, у которого на сайте есть фото и биография, чем просто пустой страничке.
Ну публичные люди,знаменитости это конечно да, у них профессия обязывает презентовать себя,тут уж ничего ни поделать с этим. Да им и самим это как правило нравится,быть в центре внимания. Не взирая на возможные скандалы, так уж бывает. А вот доктор или другой специалист вполне может иметь не страничку в соцсети а свою профессиональную биографию на сайте клиники где он работает.  Вам как клиенту же важно чтобы специалист показал себя,своё образование, курсы повышения квалефикации, примеры работ,опыт участия в какихто професиональных мероприятиях итд а не то в какой позе он загорал прошлым летом на пляже и какую музыку слушает на досуге )))))   К томуже многие люди как я заметила в основном контакты хороших специалистов в чёмто передают по сарафанному радио, если коллега,сосед или приятель в какойто сфере рекомендует человека,значит можно доверять,не зависимо от наличия данного человека в интернете. Ну ИМХО конечно. Родственник помог другому родственнику найти зубного врача узкой специализации на профильном форуме, но там было чисто сообщество такое професиональное,медицинское.  И там нашли хорошего специалиста. А другой стоматолог,к кому они ходят,это как раз по сарафанному радио. Также с ремонтниками всякими,парикмахерами...


annarepp

  • Старожил
  • ***
  • Сообщений: 278
  • Меценат
    • Награды
Ну публичные люди,знаменитости это конечно да, у них профессия обязывает презентовать себя,тут уж ничего ни поделать с этим. Да им и самим это как правило нравится,быть в центре внимания. Не взирая на возможные скандалы, так уж бывает. А вот доктор или другой специалист вполне может иметь не страничку в соцсети а свою профессиональную биографию на сайте клиники где он работает.  Вам как клиенту же важно чтобы специалист показал себя,своё образование, курсы повышения квалефикации, примеры работ,опыт участия в какихто професиональных мероприятиях итд а не то в какой позе он загорал прошлым летом на пляже и какую музыку слушает на досуге )))))   К томуже многие люди как я заметила в основном контакты хороших специалистов в чёмто передают по сарафанному радио, если коллега,сосед или приятель в какойто сфере рекомендует человека,значит можно доверять,не зависимо от наличия данного человека в интернете. Ну ИМХО конечно. Родственник помог другому родственнику найти зубного врача узкой специализации на профильном форуме, но там было чисто сообщество такое професиональное,медицинское.  И там нашли хорошего специалиста. А другой стоматолог,к кому они ходят,это как раз по сарафанному радио. Также с ремонтниками всякими,парикмахерами...

А это не важно, в соцсети страничка или на сайте. Важно что информация есть. И если условный доктор и не фотографировался голый на пляже, но в каком-то позатом году участвовал в какой-то конференции то все, создать порно с его участием раз плюнуть. Т.к. пусть он сам не фотографировался, но кто-то там фотографировался и доктор попал в кадр. Либо устроители конференции всех снимали. Ну а если доктор лекцию читал то все, пиши пропало. Нейросетке достаточно пары фото, чтобы забацать контент. Насколько реалистичным будет результат - это другой вопрос. Но все только начинается. Да и старый добрый взлом компьютера никто не отменял. Хранишь на харддрайве хоть одно фото и выходишь с этого компьютера в интернет? Все, ты уже уязвим. Да и щелкнуть пару кадров можно на улице, если знать где человек работает. А представляете, сколько вреда могут нанести друг другу простые школьники, у которых у всех есть телефоны? На уроке сделал пару кадров из-под парты, загрузил в нейросеть и вуаля - жесткое порно.

Поэтому, мне кажется, сейчас важно продвигать новые правила и умения понимать контент. Ваше "меня нет в соцсетях, у меня все будет хорошо," увы, не работает давно, а сейчас перестанет работать вовсе. Значит нужны другие методы защиты. Как социальные и психологические (учить людей не обращать внимание на самый жесткий компромат, а искать его источники;) так и технические. Думаю появятся доступные всем программы, умеющие распознавать фейковый контент. Появится новое поколение адвокатов - специалисты по нейросетевому абьюзу и буллингу. Появятся социальные программы. Появятся центры помощи подросткам и новые специалисты в школах... Остановить это все уже невозможно, спрятаться от ИИ не получится - остается только изучать и адаптироваться.