---
title: "Лишить работы, украсть данные и написать диплом: что умеют нейросети и как это регулируют"
url: https://truesharing.ru/tp/38184/
type: tp
published: 2023-06-08T22:18:08+03:00
modified: 2023-12-21T19:50:35+03:00
authors:
  - "Илья Склюев"
language: ru
---

# Лишить работы, украсть данные и написать диплом: что умеют нейросети и как это регулируют

В части стран их пытаются запретить, а юристы разбираются с особенностями работы авторского права по отношению к ИИ

![](https://truesharing.ru/wp-content/uploads/2023/06/Прстранственный-театр-оперы.jpg)
Источник: The Washington Post

## Какими бывают нейросети

Сейчас на рынке есть несколько ключевых видов нейросетей для генерации:

1. **Текста:** ChatGPT, ruGPT-3. Позволяют создавать тексты по запросу, а также имитировать диалог в формате чат-бота;
2. **Изображений:** Midjourney, Kandinsky. Помогают превращать текстовые описания в картинки различных стилей и качества;
3. **Видео:** Runway, Pictory. Позволяют создавать видео на основе описаний, фотографий и текста и даже редактировать уже готовые ролики;
4. **Аудио:** Speechactors, Soundful. С их помощью можно имитировать голоса, создавать музыку и звуковые эффекты.

Правовое положение этих технологий до сих пор остаётся неопределённым. Их использование пытаются ограничить отдельные страны и организации, а юристы пытаются определить их статус в действующем законодательстве.

## Ключевые проблемы

**Персональные данные:** злоумышленники могут воспользоваться данными пользователей, если те утекут. Нейросети хранят не только контактные данные пользователей, но и их запросы. Среди них может быть персональная информация (от истории болезни до распорядка дня), части исходных кодов или данные закрытых исследований.

- В марте 2023 года OpenAI, создатель ChatGPT, [рассказала](https://openai.com/blog/march-20-chatgpt-outage) о сбое в работе и последовавшей утечке информации. Хотя ошибку быстро устранили, часть пользователей смогла увидеть заголовки из чатов других людей.

**Фейки:** нейросети [генерируют](https://www.inverse.com/gaming/youtube-ai-presidential-gaming-debates) чересчур реалистичные материалы, в том числе изображения или записи голоса. Беглый поиск по YouTube выдает множество видео, в которых неизвестные авторы генерируют голоса знаменитостей, например президентов США. Потенциально такую запись можно создать для любого человека — и мошенники уже пользуются этим.

[Смотреть на YouTube →](https://www.youtube.com/embed/YtDLOq2JODo)

- В мае 2023 года злоумышленники [позвонили](https://original.newsbreak.com/@entertainment-celebrity-news-1591173/3026148764873-fraudsters-have-replicated-benedict-cumberbatch-s-voice-and-nearly-struck-a-deal-with-a-film-company) в испанскую кинокомпанию, сгенерировав голос Бенедикта Камбербэтча, и попытались заключить договор на фильм. Но афера не удалась — продюсеры настаивали на личной встрече, и тогда мошенники прекратили звонки;
- В том же месяце неизвестные [опубликовали](https://economictimes.indiatimes.com/news/international/world-news/fake-ai-photo-of-pentagon-blast-briefly-spooks-markets/articleshow/100455563.cms) якобы фотографию взрыва у Пентагона. Генеративную сущность подделки определили быстро, но она успела разойтись по социальным сетям. Из-за этого американский рынок успел [немного упасть](https://www.bloomberg.com/news/articles/2023-05-22/fake-ai-photo-of-pentagon-blast-goes-viral-trips-stocks-briefly), но вскоре вернулся на исходные позиции;
- В марте 2023 года в соцсетях разошлось изображение Папы Римского в дутой куртке, стиль которой напоминал модели Balenciaga. Хотя снимок сам по себе безобидный, потенциально с помощью таких материалов можно проводить пиар-кампании — в том числе и черный пиар.

**Авторское право:** не всегда понятно, кому принадлежат права на материалы, полученные с помощью ИИ. Для обучения генеративных моделей используют контент, созданный реальными людьми: картины, фотографии, тексты. Затем нейросети смешивают элементы изученных материалов и на их основе создают что-то новое. При этом итоговый результат может оказаться слишком похожим на исходный контент — и права на него остаются спорными.

![](https://truesharing.ru/wp-content/uploads/2023/06/%D0%9F%D0%B0%D0%BD%D0%B5%D0%BB%D1%8C%D0%BA%D0%B8-%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B5%D1%82%D1%8C-%D0%BA%D0%B0%D1%80%D1%82%D0%B8%D0%BD%D0%BA%D0%B8.jpg)
*Панельные дома в стиле Шишкина, типичного ковра и готики* Источник: Ai molodca 🤖

- Художники и дизайнеры [выступили](https://hyperallergic.com/806026/digital-artists-are-pushing-back-against-ai/) резко против использования нейросетей, так как те фактически используют их материалы для создания собственных произведений. Чтобы привлечь внимание к проблеме, они запустили кампанию под хештэгом NO TO AI GENERATED IMAGES («Нет изображениям, созданным с помощью ИИ») и [заполняли](https://www.vice.com/en/article/ake9me/artists-are-revolt-against-ai-art-on-artstation) постами с этим лозунгом площадки для публикации художественных портфолио. А инициативная группа даже [подала](https://petapixel.com/2023/04/20/midjourney-and-stable-diffusion-ask-us-court-to-dismiss-artists-lawsuit/) на Midjourney и Stable Diffusion в суд — разбирательства ещё продолжаются;
- В 2022 году первое место на конкурсе искусств штата Колорадо заняла работа «Пространственный театр оперы», которую жюри сравнили с шедеврами эпохи Возрождения. Когда выяснилось, что картину создали с помощью нейросети, автора обвинили в плагиате — поскольку ИИ использует для обучения работы других художников. Но создатель картины отверг обвинения и сказал, что люди тоже учатся в на чужом творчестве.

![](https://truesharing.ru/wp-content/uploads/2023/06/%D0%9F%D1%80%D1%81%D1%82%D1%80%D0%B0%D0%BD%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B9-%D1%82%D0%B5%D0%B0%D1%82%D1%80-%D0%BE%D0%BF%D0%B5%D1%80%D1%8B.jpg)
*Джейсон Аллен, «Пространственный театр оперы»* Источник: The Washington Post

**Замена профессий:** художники, программисты, сценаристы и представители других профессий требуют ввести регулирование ИИ в их отраслях.

- В мае 2023 года Гильдия сценаристов США объявила о забастовке — первой за 15 лет. Основные [запросы](https://www.wgacontract2023.org/uploadedfiles/members/member_info/contract-2023/wga_proposals.pdf) касаются трудовых договоров, но есть и требование запретить нейросетям писать и переписывать сценарии;
- В апреле 2023 года на престижной премии Sony World Photography Awards [победила](https://english.elpais.com/culture/2023-04-21/photo-competition-winner-who-used-ai-generated-image-i-want-to-open-a-discussion.html) черно-белая фотография двух женщин. После присуждения награды автор — берлинский фотограф и и член Немецкой академии фотографии Борис Эльдагсен — сообщил, что создал изображение с помощью нейросети. Он отказался от премии и сказал, что таким образом хотел начать дискуссию о влиянии новых ИИ-инструментов на искусство.

![](https://truesharing.ru/wp-content/uploads/2023/06/%D0%9D%D0%B5%D0%BC%D0%B5%D1%86%D0%BA%D0%B8%D0%B9-%D1%84%D0%BE%D1%82%D0%BE%D0%B3%D1%80%D0%B0%D1%84-%D0%91%D0%BE%D1%80%D0%B8%D1%81-%D0%AD%D0%BB%D1%8C%D0%B4%D0%B0%D0%B3%D1%81%D0%B5%D0%BD-%D1%81%D0%BE-%D1%81%D0%B2%D0%BE%D0%B5%D0%B9-%D1%80%D0%B0%D0%B1%D0%BE%D1%82%D0%BE%D0%B9.jpg)
*Немецкий фотограф Борис Эльдагсен с работой нейросети, за которую ему присудили премию Sony World Photography Awards* Источник: Alex Schwander / Reuters

**Обучение:** нет единых правил, как регулировать использование нейросетей в образовании. Учитывая, что они могут генерировать уникальные текстовые материалы, это может быть проблемой.

- В России один из самых известных случаев произошел в РГГУ: студент с помощью ChatGPT всего за сутки [написал](https://vc.ru/s/chatgpt/596981-rossiyskiy-student-rasskazal-v-twitter-kak-zashchitil-diplom-napisannyy-chatgpt) выпускной диплом с уникальностью 82% — и защитил его на «удовлетворительно». РГГУ призвал [ограничить](https://www.rbc.ru/technology_and_media/01/02/2023/63da66c19a7947f79e7c2d54) доступ к чат-боту в образовательных учреждениях, но в Министерстве образования лишь [призвали](https://www.rbc.ru/society/08/02/2023/63e377ff9a79479db4184ada) университеты «перестраиваться» и не предложили конкретных шагов по регулированию.

## Как предлагают решать проблемы

Хотя разработка нейросетей началась еще в XX веке, массовый интерес к ним появился только в 2010-е, а распространение — в 2020-е. Пока не существует единых стандартов для регулирования нейросетей — на государственном уровне закон приняла только Италия.

В марте 2023 года она запретила использование ChatGPT после скандала с утечкой данных, но к концу апреля чат-бот [разблокировали](https://www.theverge.com/2023/4/28/23702883/chatgpt-italy-ban-lifted-gpdp-data-protection-age-verification). Это произошло после того, как разработчики внедрили возможность удалить свои данные и установили проверку возраста.

На момент написания статьи ряд государств, включая Великобританию и Китай, [объявили](https://www.cnbc.com/2023/04/04/italy-has-banned-chatgpt-heres-what-other-countries-are-doing.html) о подготовке законов для регулирования нейросетей. А Евросоюз уже [представил](https://www.cnbc.com/2023/05/15/eu-ai-act-europe-takes-aim-at-chatgpt-with-landmark-regulation.html) первый проект закона. В нём предлагается среди прочего:

- ограничить использование ИИ в критической инфраструктуре, образовании, правоохранительных органах;
- обязать разработчиков самостоятельно проверять, не нарушают ли нейросети авторское право при обучении.

И все же пока речь идет в лучшем случае о законопроектах. В основном регулированием сейчас занимаются организации, которые сталкиваются с работой нейросетей, например, фотобанки. В 2022 году Getty Images полностью [запретил](https://www.theverge.com/2022/9/21/23364696/getty-images-ai-ban-generated-artwork-illustration-copyright) публиковать сгенерированные ИИ изображения, а Shutterstock [начал удалять](https://www.vice.com/en/article/v7vzpj/shutterstock-is-removing-ai-generated-images) такие картинки. IT-компании, например [Apple](https://www.wsj.com/articles/apple-restricts-use-of-chatgpt-joining-other-companies-wary-of-leaks-d44d7d34), запрещают своим сотрудникам использовать ChatGPT — чтобы они не отправили туда конфиденциальную информацию.

![](https://truesharing.ru/wp-content/uploads/2023/06/ChatGPT-%D1%84%D0%BE%D1%82%D0%BE.jpg)
*В текстовые нейросети легко загрузить конфиденциальные данные, но никто не гарантирует, что из сервиса не произойдёт утечка*

Глава Tesla, SpaceX и Twitter Илон Маск, один из основателей Apple Стив Возняк и другие представители IT-индустрии [подписали](https://futureoflife.org/open-letter/pause-giant-ai-experiments/) открытое письмо, в котором призвали приостановить разработку продвинутого ИИ до тех пор, пока в этот процесс не внедрят проверенные независимыми экспертами общие протоколы безопасности.

Одной из самых спорных сфер использования ИИ остается образование – скандал с написанием научных работ там происходят регулярно. В России пока не было случаев, когда университет полностью запрещал использование нейросетей — во всяком случае в публичном поле об ограничениях не рассказывали. При этом, как известно Трушерингу, в одном из сибирских университетов, наоборот, обсуждают внедрение курсов, на которых будут изучать ИИ как инструмент для работы.

В других странах ситуация развивается по-разному. В Японии Токийский университет [запретил](https://tass.ru/obschestvo/17485459) использовать ChatGPT для написания научных работ. В Британии такие ограничения [ввели](https://www.universityworldnews.com/post.php?story=20230304105854982) Кембриджский и Оксфордский университеты, во Франции — [Sciences Po](https://www.reuters.com/technology/top-french-university-bans-use-chatgpt-prevent-plagiarism-2023-01-27/), один из ведущих исследовательских университетов страны в области социальных и гуманитарных наук.

## Как можно использовать сейчас

По российским законам сгенерированные нейросетями изображения и другой визуальный контент [не являются](https://habr.com/ru/companies/ratingruneta/articles/732628/) объектами авторского права. Их создала программа, которая не является одушевлённой: то есть результаты её работы формально не принадлежат никому. Технически законодательство не запрещает использовать картинки и другой контент даже в коммерческих целях. Единственным ограничением могут стать условия использования.

![](https://truesharing.ru/wp-content/uploads/2023/06/%D0%A0%D0%B5%D0%BA%D0%BB%D0%B0%D0%BC%D0%B0-%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B5%D1%82%D1%8C-%D0%92%D0%9A-%D1%84%D0%BE%D1%82%D0%BE.jpg)
*Изображения с характерно размытыми логотипами и названиями уже можно найти в рекламе в соцсетях*

Например, Midjourney требует, чтобы пользователь купил подписку для коммерческого использования сгенерированных картинок. Если этого не сделать, то публиковать материалы разрешается только в личных целях и с припиской, что контент создан с помощью этого сервиса. За нарушение пользовательского соглашения владельцы компании могут подать на пользователя в суд.

Пока не было случаев, когда владельцы нейросетей массово подавали в суд на недобросовестных пользователей. И все же важную роль играет и юрисдикция, в которой находится компания — американский сервис вряд ли узнает об использовании сгенерированных ИИ материалов в России. А подача в суд для него в нынешних условиях может оказаться слишком сложной и невыгодной задачей.

Некоторые нейросети не запрещают свободное использование сгенерированного контента. Например, создатели Dall-E 2 [разрешают](https://www.technollama.co.uk/dall%C2%B7e-goes-commercial-but-what-about-copyright) использовать созданные с помощью нее изображения в коммерческих целях. В актуальной версии соглашения они [передают](https://openai.com/policies/terms-of-use) все права на сгенерированные материалы самим пользователям. Одновременно с этим они снимают с себя и всю ответственность за содержание контента — человек должен сам следить, чтобы картинки не нарушали законодательство. То же [относится](https://www.quora.com/Can-ChatGPT-be-used-for-commercial-purposes) и к ChatGPT — у этих сервисов общее соглашение с Dall-E 2.

![](https://truesharing.ru/wp-content/uploads/2023/06/%D0%9B%D0%B0%D0%BC%D0%B0-%D0%94%D0%B0%D0%BB%D0%BB%D0%B8-%D0%BA%D0%B0%D1%80%D1%82%D0%B8%D0%BD%D0%BA%D0%B0.jpg)
*Так Dall-E 2 видит «ламу в берете, которая ест тост с авокадо в парижском кафе в стиле Ван Гога». Использовать такой контент можно абсолютно бесплатно!* Источник: TechnoLlama

Компании уже используют нейросети в работе — например, [ведут соцсети](https://vc.ru/social/621577-mesyac-delali-kontent-s-pomoshchyu-neyrosetey-rasskazyvaem-nado-li-perezhivat-smm-menedzheram) с помощью чат-ботов. При грамотном запросе с указанием тона текста, его сути и ограничением по количеству слов или знаков, можно быстро сгенерировать пост. То же — с изображениями: вместо того, чтобы тратить деньги на дизайнера, компании создают обложку к рекламе или публикации через словесное описание. Сервисы вроде Stable Diffusion также позволяют обучить нейросеть на собственных примерах, чтобы в результате получить картинку с уникальным стилем. А с помощью ПО, работающего с аудио, можно [озвучивать](https://vc.ru/future/684081-neyroset-govorit-kak-v-litres-ozvuchivayut-knigi-sintezom-rechi-tts-text-to-speech) тексты и даже целые книги.

Но если сгенерированные материалы будут слишком похожи на уже существующие работы, — музыку, изображения, видео, тексты, — их авторы могут потребовать компенсацию. Правда, требование могут удовлетворить только при «сходстве до степени смешения» — если суд посчитает, что работы можно легко перепутать из-за шрифтов, общих форм и других совпадений. Столкнуться с иском можно и [если использовать](https://vc.ru/marketing/602973-mogut-li-oshtrafovat-esli-ispolzovat-kartinki-i-teksty-ot-neyroseti) в коммерческих целях изображения или видео с лицензированными образами. Например, если создать картинку с Суперменом в костюме Бэтмена.