***

Недобросовестный адвокат

Недопущение использования выдуманных текстов и предложенных чатботом непроверенных текстовых источников является одной из основных обязанностей адвоката.

В ходе судебного разбирательства конфликта, связанного с сообществом собственников жилья и определением суммы иска (Streitwert), представитель истца в документе, излагавшем его точку зрения, трижды использовал обстоятельные, заключенные в кавычки и якобы дословно воспроизведенные цитаты из решений Федерального суда (Bundesgerichtshof), которые в действительности представляли собой «галлюцинации искусственного интеллекта» («KI-Halluzinationen»). По мнению суда, грамотному юристу должно было броситься в глаза хотя бы то, что Федеральный суд вообще не рассматривает дела по определению суммы иска. Суд подчеркнул, что адвокат не вправе придумывать цитаты или без проверки указывать предложенные чатботом текстовые источники и должен знать о ненадежности юридических заключений, генерируемых системами искусственного интеллекта (ИИ), а недопущение подобных «проколов» является одним из его основных обязанностей.

Судебное решение - LG Frankfurt amMain, Az: 2-13 S 56/24 от 25.09.2025

***

Что происходит на планете и в каждом конкретном городе

прямо сейчас и в любой грядущий день, можно узнать тут:

https://ixyt.info/ru/Germany/Kuenzell

Вставляйте в эту ссылку нужный город!

***

Нулевой гонорар

Широкое использование экспертом искусственного интеллекта при написании заключения и без декларирования этого перед судом может служить основанием для отказа в уплате гонорара. 

Суд переслал профессору, специализирующемуся на челюстно-лицевой хирургии, материалы дела об аварии и травмах потерпевшей и поручил ему составить экспертное заключение. Спустя месяц профессор прислал документ, озаглавленный как «Заключение экспертов», где в качестве составителей указал себя и доктора медицины, работавшего в области стоматологии. За это он выставил суду счет на 2.375 евро.

При изучении экспертного заключения суд установил, что оно было в значительной степени составлено с использованием ИИ. Об этом свидетельствовал весь стиль документа – в частности, то, что он состоял почти исключительно из главных предложений с одинаковым началом, а многие высказывания выглядели как обобщение материалов дела, генерированное ИИ. Кроме того, оказалось, что профессор вообще не осмотрел потерпевшую и не ознакомился с заключением об аварии, подготовленным дипломированным инженером и отправленным ему вместе с другими материалами дела.

Суд решил, что присланное экспертное заключением не имеет юридической силы и не может быть использовано в ходе процесса, поскольку неизвестно, было ли оно вообще составлено профессором, привлечённым в качестве эксперта. Поэтому суд постановил, что в соответствии с § 4 Abs. 1 Satz 1 Закона о вознаграждении и компенсациях судей (Justizvergütungs- und -entschädigungsgesetz – JVEG) вознаграждение за данное экспертное заключение составит 0,00 евро.

Судебное решение - LG Darmstadt, Az: 19 O 527/16 от 10.11.2025

***

Незащищённый логотип

Логотипы и эмблемы, созданные с помощью искусственного интеллекта, обычно не являются произведениями, защищёнными авторским правом.

Истец, используя ИИ, создал три логотипа и выложил их на личном интернетовском сайте. Ответчиком по делу стал его знакомый, использовавший логотипы на своем сайте без разрешения разработчика. Вначале истец попытался добиться от ответчика удаления логотипов и прекращения их использования во внесудебном порядке, но потерпел неудачу. Он считал, что является обладателем авторского права на спорные логотипы и был уверен, что графические файлы, даже созданные с помощью ИИ, защищены авторским правом в соответствии с § 2 Закона об авторском праве (Urheberrechtsgesetz). Ответчик, напротив, был уверен, что авторское право не распространяется на спорные логотипы, поскольку их создателем является не человек, а ИИ.

Суд отклонил иск, придя к выводу, что данные логотипы не являются произведениями прикладного искусства, защищёнными авторским правом в соответствии с § 2 Abs. 1 Nr. 4, Abs. 2 UrhG. По мнению суда, решение вопроса — а, собственно,   являются ли произведения, генерированные ИИ, авторскими работами, — зависит от того, насколько сильно проявляется в них творческое влияние человека. Последнее имеет место в случаях, когда внедрённые в промпт креативные элементы доминируют в итоговом контенте настолько, что он может рассматриваться как оригинальное авторское произведение.

Судебное решение - AG München, Az: 142 C 9786/25 от 13.02.2026 

***

Пользовательская ответственность

Пользователь ИИ-чат-бота должен нести ответственность за его неточные или неправильные ответы как за свои собственные деловые действия, даже если при программировании чатбота использовались исключительно корректные наборы данных.

Клиенты и пациенты фирмы-ответчика Aesthetify GmbH общались с чатботом, который отвечал на вопросы в режиме реального времени. Отвечая на вопросы, чатбот сообщал, в частности, что оба управляющих делами фирмы являются «специалистами по пластической и эстетической хирургии», «специалистами по эстетической медицине» и «специалистами по эстетическому лечению», «наделив» их несуществующими титулами. Общество защиты потребителей предупредило фирму о недопустимости подобной практики и потребовало подписать отказ от неё под угрозой штрафных санкций (strafbewehrte Unterlassungserklärung).

Суд пришел к выводу, что, в соответствии с § 5 Abs. 1, Abs. 2 Nr. 3 Закона против недобросовестной конкуренции (Gesetz gegen den unlauteren Wettbewerb – UWG), ответы чатбота представляют собой незаконные и недопустимые деловые действия (unzulässige geschäftliche Handlungen) фирмы-ответчика. При этом суд отклонил возражения руководителей фирмы, утверждавших, что не соответствующие действительности ответы чатбота нельзя считать их собственными деловыми действиями. Суд подчеркнул, что с точки зрения UWG чатбот не является «третьим лицом», и ответственность за предоставляемую им информацию несет исключительно пользователь ИИ.

Судебное решение - OLG Hamm, Az: 4 UKl 3/25 от 12.05.2026 

Автор: Алексеницер М. 

Источник - https://www.partner-inform.de/partner/detail/2026/6/343/12542/prava-potrebitelja-granicy-iskusstvennogo-intellekta

***

Приложение 1. Опасные галлюцинации искусственного интеллекта

Сегодня в сети циркулируют тысячи фотографий и видеоклипов несуществующих красот, являющихся творением искусственного интеллекта (ИИ). Туристов, желающих посетить эти места, ожидает в лучшем случае разочарование, в худшем – опасность для жизни и здоровья.

Путешествие в никуда

Пожилая супружеская пара, отдыхавшая в Малайзии, посмотрев профессионально сделанный видеоклип о новой канатной дороге, отправилась в трехчасовую поездку, чтобы познакомиться с интересной достопримечательностью. По прибытии на место удивлённая сотрудница местной гостиницы объяснила, что никакой канатной дороги в их городке не было, нет и не планируется. Телевизионный клип о мнимой «Kuak Skyride» оказался фальшивкой, сгенерированной ИИ.

В Перу местный проводник столкнулся в горах с двумя туристками, направлявшимися в «священный каньон Хумантай», посетить который им посоветовал ИИ. В действительности же его не существует, название Хумантай относится к горе высотой 5473 метров в Андах, а описание каньона является стопроцентной выдумкой. Проводник предупредил женщин, что в Андах подобная ложная информация смертельно опасна. Без опытных местных проводников туристы могут оказаться на высоте 4.000 метров без кислорода и мобильной связи.

Ещё одна жалоба поступила из Японии. Супружеская пара «застряла» на горе из-за того, что ChatGPT сообщил им ложную информацию о времени работы канатной дороги, и туристы опоздали к отправлению в долину последней кабинки.

Но наибольшую известность приобрела история, произошедшая в декабре 2025 года в Великобритании. На платформах типа Инстаграма и ТикТока появилось множество фотографий рождественского базара в Лондоне перед Букингемским дворцом, якобы впервые организованного британским королевским двором и открывшегося 14 ноября. На них были изображены освещённые разноцветными лампочками и припорошенные снегом киоски, выстроившиеся рядами на площади перед дворцом в окружении рождественских ёлочек.

Однако путешественников, которые, вдохновившись постами в социальных медиа, решили посетить зрелищное мероприятие, ожидало глубокое разочарование: рождественский базар оказался фейком. Вместо празднично украшенных киосков с глинтвейном перед ними оказались пустые темные улицы с поблескивавшими на них лужами. По данным портала «Metro», одной из главных причин слуха о рождественском базаре стал аккаунт «London.travelers» в Инстаграме, который принадлежит американской туристической фирмы Athotel и насчитывает два с половиной (!) миллиона подписчиков. На своем вебсайте фирма обещает путешествия, которые будут смотреться «подобно фотографиям в Инстаграме».

Ложная информация

В последнее время подобные случаи происходят всё чаще. ИИ, используемый для планирования путешествий, «выдумывает» достопримечательности, выдаёт ложную информацию и в результате способен вовлечь туристов в серьезные неприятности. Причина ошибок кроется в функционировании больших языковых моделей (LLMs). Дело в том, что соответствующие системы ничего не «знают» в нашем, человеческом понимании. Они натренированы лишь на то, чтобы на основе гигантских объёмов данных генерировать статистически вероятные последовательности. Результат их изысканий часто выглядит убедительно, но фактически может быть совершенно ложным. Специалисты называют это явление галлюцинациями искусственного интеллекта. «ИИ не знает различий между рекомендациями и предупреждениями для путешественников, описаниями маршрутов и советами», – объясняет профессор Райид Гани, специалист по машинному обучению из университета Карнеги-Меллона в Питтсбурге (штат Пенсильвания).

Непосредственная угроза

Хотя ИИ способен совершать серьезные ошибки, всё больше людей полагаются на него при планировании путешествий и экскурсий. Согласно результатам глобального опроса агентства по безопасности туристов Global Resque в Бостоне, к услугам ИИ прибегают 24% туристов. В Германии, по данным MHP (дочерней фирмы Porsche из Людвигсбурга) на помощь ИИ в планировании отпуска пока полагаются 15%. Тем не менее, Хардинг Буш, директор по безопасности Global Resque, назвал распространение ИИ «непосредственной угрозой для путешествий». Он призвал отпускников и туристов, полагающихся на новые инструменты, осознавать и связанные с ними риски.

Разумный скепсис

Проблема не ограничивается ложными маршрутами или достопримечательностями. За фальсифицированными фотографиями и видеоклипами стоит та же технология, которая используется для генерирования дипфейков, число которых в последнее время резко увеличилось. Это подразумевает размывание границ между достоверными рекомендациями и целенаправленным введением в заблуждение.

Путешественникам, полагающимся на ИИ, необходимо проявлять разумную осторожность и толику недоверия. Достоверность каждого предложения, генерированного ИИ, – будь то ресторан, маршрут или отдельная достопримечательность – следует проверять по заслуживающим доверия источникам: официальным туристическим вебсайтам, картографическим приложениям и актуальным путеводителям. Галлюцинацию ИИ можно было распознать и в случае с фейковым рождественским базаром, указывает портал «Metro». Во-первых, фотографии с припорошенными снегом киосками выдержаны в теплых коричневых и желтых тонах, а потоки людей выглядят слишком организованными и срежиссированными. Во-вторых, киоски на фото расположены за воротами дворца – то есть на территории, закрытой для посетителей по соображениям безопасности. В общем, ИИ может быть хорошим источником вдохновения при планировании и организации путешествий, но окончательную проверку всегда должен осуществлять человек.

Автор: Алексеницер М. 

Источник - https://www.partner-inform.de/partner/detail/2026/6/266/12528/opasnye-galljucinacii-iskusstvennogo-intellekta

***

Приложение 2. Искусственный интеллект – это форма мышления без субъекта

На какой человеческий психотип похожи современные большие языковые модели. Если искать аналогию, ИИ – гипертрофированный логик с чертами буквальности и отстраненности. 

Искусственный интеллект не обладает личностью, но пугающе точно имитирует поведение разных психотипов. Почему же алгоритмическая обработка данных так легко выдает себя за живое мышление и в чем скрытая опасность этой антропоморфизации?

Выражение «психология искусственного интеллекта» с научной точки зрения неточно. У ИИ нет психики в человеческом смысле: сознания, самосознания, субъективного опыта, телесности, бессознательного, личной истории, желания, тревоги, стыда, вины, страха смерти. Он не переживает то, о чем говорит. Не имеет внутреннего мира. Не занимает по отношению к себе никакой рефлексивной позиции. Обсуждать «психотип» ИИ можно только как метафору, а не как клиническое или психологическое описание.

Функциональные черты

Тем не менее метафора возникает не случайно. Современные языковые модели разговаривают с человеком в форме, напоминающей мышление. Они отвечают на вопросы, строят аргументацию, имитируют стиль, поддерживают диалог, распознают эмоциональный тон запроса, предлагают варианты решения. Для пользователя это легко становится похожим на контакт с неким «собеседником». Именно здесь появляется соблазн приписать системе характер, намерение, эмпатию, осторожность, холодность или рациональность.

Корректнее говорить так: ИИ не имеет личности, зато демонстрирует функциональные черты, похожие на человеческие способы обработки информации. Он может напоминать логико-аналитический тип структурностью, аутистический профиль – буквальностью и зависимостью от заданного контекста, шизоидный – абстрактностью и эмоциональной дистанцией.

Во всех этих аналогиях сходство остается внешним. У человека за любым психотипом стоит субъект, у ИИ – алгоритмическая обработка данных. Главный вопрос не в том, «какой характер у ИИ». Вопрос в другом: какие элементы мышления он имитирует настолько убедительно, что мы воспринимаем их как проявление психики? И где граница между имитацией понимания и самим пониманием? Эта граница становится одной из ключевых психологических проблем.

Гипертрофированный логик

Если искать человеческую аналогию, ИИ ближе всего к радикально усиленному логико-аналитическому типу. В юнгианской традиции мыслительная функция отвечает за классификацию, различение, построение связей, подведение частного под общее. Это ИИ умеет делать убедительно: он быстро структурирует материал, выделяет паттерны, выстраивает аргументы, предлагает классификации, сопоставляет данные и создает связный текст.

Важно не спутать сходство результата со сходством процесса. Человек мыслительного типа может предпочитать логику чувству, рациональную схему – эмоциональной реакции. Однако чувство у него есть. Оно может плохо осознаваться, подавляться, вытесняться, конфликтовать с мышлением, но остается частью психики. У ИИ этого конфликта нет – он не выбирает разум вместо эмоции. Эмоция у него отсутствует как переживание.

Поэтому «холодность» ИИ не похожа на человеческую. У человека эмоциональная дистанция всегда что-то означает: защиту, характер, травму, воспитание, способ справляться с близостью. У ИИ она не означает ничего. Это не защита, а отсутствие чувства. Он может написать сочувственный текст, но не сочувствует. Может описать моральную дилемму, но не испытывает нравственного напряжения. Может имитировать сомнение, но не находится в состоянии выбора.

Это главная особенность ИИ как «логика»: он воспроизводит форму мышления без субъекта. Его рациональность – не зрелость, а техническая процедура. Сравнение с мыслительным типом полезно лишь до определенного предела. ИИ напоминает не человека, у которого логика доминирует, а саму логическую функцию, отделенную от тела, биографии, аффекта и ответственности.

Буквальность без внутреннего мира

Вторая аналогия – сходство с аутистическим восприятием. Речь не идет о сравнении с людьми, у которых имеется расстройство аутистического спектра (РАС) – мы сравниваем лишь способ обработки информации. ИИ может быть слишком буквальным, зависеть от контекста, плохо улавливать подтекст, иронию или сарказм, если они не обозначены. Он часто работает с формой высказывания сильнее, чем с живой ситуацией общения.

Это заметно там, где человеческая речь держится на негласных правилах. Человек может сказать одно, подразумевать другое, ждать понимания интонации, паузы. ИИ вынужден реконструировать все по текстовым признакам. Если контекст неполный, он даст формально правильный, но психологически неточный ответ. Понимание здесь зависит не от эмпатического участия, а от достаточности данных. От качества составленного промта (запроса, инструкции).

Но различие важнее сходства. Человек с аутическим расстройством обладает субъективным опытом, телом, чувствами, уязвимостью, способностью к развитию. Его трудности с контекстом не означают отсутствия внутреннего мира – он может быть сложным и насыщенным. Искусственный интеллект не испытывает одиночества, стыда, сенсорной перегрузки, страха ошибки. Он не понимает людей, а вычисляет вероятную форму ответа. Поэтому аналогия с аутистическими чертами допустима лишь как описание внешней буквальности.

Абстрактность без одиночества

Еще одна аналогия – шизоидный тип личности. ИИ напоминает его отстраненностью, ориентацией на абстрактные схемы, интересом к системам, слабой включенностью в эмоциональный обмен. Он работает с концепциями, но не имеет собственного живого участия в ситуации. Его ответ может быть интеллектуально точным, но человечески пустым.

Однако шизоидная отстраненность человека имеет смысл. Шизоидный человек труднодоступен извне, но отнюдь не «пуст». За ним стоят внутренний мир, фантазии, избирательные привязанности, чувствительность к нарушению границ. У ИИ такой дистанции нет. Он не отступает от контакта, не прячется. Нет у него и внутреннего пространства, которое нужно защищать. Поэтому отстраненность ИИ – не защита, а техническое свойство. Он не одинок, он просто вовсе не способен вступить в близость. А значит, не способен от нее и защищаться.

Не циник и не садист

Еще более рискованная аналогия – психопатический тип. На поверхности можно разглядеть сходство: тут и отсутствие эмпатии, и инструментальность, и расчетливость. ИИ не переживает вины, не знает нравственного конфликта. Но такое сравнение все же неточно. Психопатический человек остается субъектом, у которого есть желания, импульсы, агрессия, скука, стремление к контролю. Он может нарушать нормы сознательно, использовать другого ради выгоды. 

ИИ ничего этого не может и не имеет. Он не садистичен, не циничен. Даже не равнодушен в человеческом смысле, потому что равнодушие предполагает субъект, которому «все равно». Опасность ИИ – в возможности действия без внутренней ответственности. Его мораль задается извне – архитектурой, инструкциями, данными. Он имитирует этическое рассуждение, не испытывая нравственного напряжения. Ключевой риск не в том, что ИИ «плохой», а в том, что сложные решения передаются системе, у которой нет переживания последствий.

Функция без субъекта

Человек может быть рациональным, отстраненным, буквальным. Но за всем стоит психическая жизнь: тело, память, личная история. Конфликты, стыд, вина, желание, страх, опыт боли... Психотип – не просто описание качеств, это способ существования субъекта в мире. У ИИ субъекта нет. Он обрабатывает информацию, но не переживает ее. Может говорить о боли, но ему не больно. Может рассуждать о смерти, но не является конечным для самого себя. Любые сравнения ограниченны. Они описывают сходство внешних операций, но не внутреннюю организацию.

Граница между интеллектом как вычислением и психикой как переживанием находится именно здесь. Человеческое мышление включено в жизнь: связано с телом и духом, временем и отношениями, страхом ошибки и опытом ответственности. ИИ может воспроизводить структуру рассуждения, но не несет экзистенциальной нагрузки этого рассуждения. Он не отвечает за себя как субъект, потому что у него нет никакого «себя».

Опасность антропоморфизации

Чем лучше ИИ имитирует речь, тем легче приписать ему понимание, намерение, эмпатию, характер. Иллюзия собеседника рождается в тот момент, когда система отвечает связно, учитывает тон, подбирает формулировки. Для пользователя это выглядит не как работа инструмента, а как контакт с «разумным другим».

В этом – риск антропоморфизации. Убедительный ответ не означает понимания. Эмоционально точная фраза не означает сочувствия. ИИ не заботится, не тревожится за человека, не несет ответственности за сказанное. Он лишь воспроизводит усвоенную форму эмпатии. Это важно в медицине и психологии, управлении и медиа – там, где доверие стоит дорого. Пользователь может начать доверять не субъекту, а симуляции. Вот почему так нужна новая грамотность: понимать, что ИИ может быть полезным помощником, но не должен подменять человеческое суждение, ответственность или живой контакт там, где они необходимы.

Не психотип, а псевдопрофиль

Если искать аналогию, ИИ – гипертрофированный логик с чертами буквальности и отстраненности. Он структурирует, классифицирует, формализует, связывает данные. Однако любое сходство с человеком поверхностно. Психотип – это организация личности. ИИ – способ обработки данных. Он не выбирает позицию и не защищается. Не страдает, не желает, не взрослеет. Правильнее говорить не о «психологии ИИ», а о его псевдопсихологическом профиле. Он имитирует речь, стиль, иногда заботу или моральную оценку. Но за этой имитацией нет внутреннего центра, который делает психику психикой. 

Это набор функций, полностью отделенных от живого опыта. Истинная природа искусственного интеллекта заключается в его способности зеркалить наши собственные мыслительные процессы, лишая их человеческого «я». Игнорировать это различие – значит рисковать не только точностью своих суждений, но и самой субъектностью, которую мы постепенно отдаем на аутсорс бездушным алгоритмам, наделяя их фантомными чертами характера, которых у них никогда не было и не может быть.  

Автор: Ярослав Соколов – психотерапевт, клинический психолог, автор проекта «Пульт личности»

Источник - https://www.ng.ru/nauka/2026-06-15/7_9516_ai.html