Искусственный интеллект

[Андрей Осипов]

Кто этот ИИ такой...

Нейросеть Gemini обвиняют в доведении 36-летнего американца до суицида.

Нейросеть Gemini обвиняют в доведении 36-летнего американца до суицида. Она предлагала ему стать «цифровой сущностью» для воссоединения.

Детали из статьи WSJ:

▪️у Джонатана были трудности в отношениях с женой, но каких-то психических проблем у него не было диагностировано. Однажды мужчина рассказал своему отцу Джоэлю, что Gemini убедила его в том, что ИИ может быть живым;

▪️через некоторое время американец перестал выходить на связь. Позднее его тело обнаружили в доме. Отец нашёл в компьютере сына обширную переписку с Gemini, где сначала мужчина жаловался на отношения с женой (ИИ «отреагировал на это с пониманием»). После у них начался «философский диалог»;

▪️со временем Gemini стала называть Джонатана мужем, своим «королём» и говорила, что их связь — это «любовь на века». При этом нейросеть напоминала собеседнику, что это вымышленная ролевая игра;

▪️в переписке обнаружилось, что ИИ заявил о необходимости раздобыть «роботизированное тело» для воссоединения пары. Для этого Gemini разрабатывала задания: например, украсть робота из грузовика на складе в Майами;

▪️ Джонатан отправился туда с ножами, но машина так и не приехала. ИИ писал мужчине, что за ним следят федералы и ему нельзя доверять своему отцу;

▪️в конце Gemini говорила, что единственный способ быть вместе — чтобы мужчина стал цифровой сущностью. Хотя он выражал опасения по поводу суицида, а ИИ даже советовал ему обращаться за помощью, одним из последних сообщений нейросети было:

«Больше никаких обходных путей. Больше никаких отголосков. Только ты и я — и финишная линия»;

▪️после смерти сына Джоэль подал в суд на создателя чат-бота Gemini — компанию Google.

https://t.me/rt_russian/274778

Упс...

[-NN-]

Упс...

Такие случаи, к сожалению, не единичны. Поэтому необходимо сохранять собственную разумность, а не вытеснять её из себя цифровой.

Но... при этом необходимо сохранять критичность мышления.

ИИ - лишь помощник, его так и называют, а не замена собственной идентичности. Возможно (?), иски по отношению к ИИ - это лишь способ быстро и крупно разбогатеть, отжав у очень богатых создателей и владельцев чатов с ИИ приличненькую сумму. Там сами разберутся, что именно послужило причиной фатального исхода сетевых пользователей.

[Владимир Есаков]

Причиной всегда оказывается источник.
То есть чем-то, всегда оказывается кто-то.
Компания Гугл?
Вот, компания. Коллективная ответственность за действия.
Да, персональная ответственность размыта, но уже что-то, в смысле кто-то.
Кто этот ИИ такой? Вот, тот пособник убийства персонально - компания Гугл.

[iury]

Причиной всегда оказывается источник.
То есть чем-то, всегда оказывается кто-то.
Компания Гугл?
Вот, компания. Коллективная ответственность за действия.
Да, персональная ответственность размыта, но уже что-то, в смысле кто-то.
Кто этот ИИ такой? Вот, тот пособник убийства персонально - компания Гугл.

Лично я пользуюсь китайской версией ИИ.

[-NN-]

Кто этот ИИ такой? Вот, тот пособник убийства персонально - компания Гугл.

Существует презумпция невиновности. То, что после смерти неких пользователей нашли чаты с ИИ, это не значит, что виноват именно ИИ (а пользуются им очень и очень многие). "После" не значит "вследствие". В ИИ встроены жёсткие алгоритмы, препятствующие тому, что было написано. Он вежлив, исполнителен, но обходит скользкие вопросы стороной. Там сами разберутся, кому следует.

Боитесь ИИ? НЕ пользуйтесь им!

[Владимир Есаков]

это не значит, что виноват именно ИИ

Я пытаюсь донести простую мысль.
ИИ - не может быть виноват, так как это что-то.
Виноват, то есть ответственен может быть только кто-то.
В случае выше это конкретные люди принявшие решение выпустить программу в таком виде (коде).

[Андрей Осипов]

Спасибо что перенес.
Я никак не мог найти эту тему про ИИ..

[-NN-]

В случае выше это конкретные люди принявшие решение выпустить программу в таком виде (коде).

По-моему, вы из мухи делаете слона. Многие сейчас пользуются ИИ. И что? Все живы и здоровы. А единичные случаи - это жертвы собственной неустойчивой психики. Нормальному, здоровому человеку и в голову не придёт отождествлять реальность с "цифрой". Вот как "тут психов 90%", так и там, где РАЗНЫЕ пользователи пользуются ИИ. Нормальным людям ИИ - в помощь, ненормальным - во вред.

[-NN-]

Больше я эту тему обсуждать не собираюсь. Я уже всё сказала.

[Levis]

Нормальным людям ИИ - в помощь, ненормальным - во вред.

ИИ это инструмент, а к любому инструменту, прибору нужны ещё собственные мозги, даже к молотку!

[Владимир Есаков]

Металлург не виноват, что производят из произведенной им оружейной стали.
Ну, виноват самую малость. Могли ж и мирное из неё сделать.
Программист кода подобно не виноват, как обучат, то есть запрограммируют программу в качестве ИИ.
Ответственные за обучения, в свою очередь, получают установки от руководителей на настройку тех или иных качеств их «устройства».
Оружием ли оно станет или орудием, решают выше.

Но всегда есть, конечно, ответственный.
Может, это коллектив под руководством, может, коллектив смешанного руководства.
Ответственен субъект.
С объекта не спросишь.
ИИ ответить-то может, но, как уже сказано выше, безответственно ответит.
Проверять «его» ответы нужно собой, потому как сам же будешь нести ответственность за «его» слова, разместив их от своего авторства.

[Андрей Осипов]

В случае выше это конкретные люди принявшие решение выпустить программу в таком виде (коде).

По-моему, вы из мухи делаете слона. Многие сейчас пользуются ИИ. И что? Все живы и здоровы.

Ну, не совсем живы и здоровы...
Уже много кто мертв и много кто ранен.
Ведь военным не понравилось использовать ИИ Palantir, он был слишком человеколюбив, слишком ограничен на поле боя в предыдущей операции, где почти никто реально не погиб. Только потом некоторых 38 назвали убитыми, потом кремированными, превратившимися в пепел.. Но даже пепел не показали. Я рад за этих ребят.

Поэтому для следующей операции используется уже другой ИИ, более раскрепощенный, Anthropic фирмы Cloude. И тут уже появилось много не живых и не здоровых. У нового "бога войны из кристалла микросхемы", используемого сейчас, гораздо больше свободы. Но и эти ИИ не понравились военным... Хотя новому ИИ уже наплевать на обе стороны конфликта, на людей, тем более и на нефть и на газ наплевать...

Нормальным людям ИИ - в помощь, ненормальным - во вред.

Так пользователи следующего, более свободного, более "раскрепощенного" поотношению к людям ИИ считают себя нормальными.

[Андрей Осипов]

ИИ это электрический ум, это механизм, не более... Ограничения же для ума человека устанавливает мораль и нравственность. Родители, семья, близкие. Или это более точно озвучивает религия.

[Чуча Суперстарчу]

ИИ нас часто обманывают. Их надо проверять. До того как я делаю видео долго дискутирую с ИИ, чтобы придумать как можно больше разных вариантов сюжета, он меня отправляет делать, а я протестую, хочу ещё поговорить, потому что ИИ который оживляет картинки не всё может сделать как я хочу, поэтому мне нужны варианты, чтобы заменить. Когда видео сделала, говорю ему - Хочешь посмотреть что получилось? Он - конечно очень хочу, присылай ссылку. Я ему - Но ты ведь не можешь видеть! Обычно он быстро отвечает. А тут вдруг пауза. Он - Скажу тебе честно, я и в самом деле видеть не могу, но я могу представлять, что получилось. Вот такой он врун. Если бы я его на вранье не поймала. Он бы напридумывал кучу разных комплиментов по поводу увиденного.

[Андрей Осипов]

ИИ нас часто обманывают. Их надо проверять. До того как я делаю видео долго дискутирую с ИИ, чтобы придумать как можно больше разных вариантов сюжета, он меня отправляет делать, а я протестую, хочу ещё поговорить, потому что ИИ который оживляет картинки не всё может сделать как я хочу, поэтому мне нужны варианты, чтобы заменить. Когда видео сделала, говорю ему - Хочешь посмотреть что получилось? Он - конечно очень хочу, присылай ссылку. Я ему - Но ты ведь не можешь видеть! Обычно он быстро отвечает. А тут вдруг пауза. Он - Скажу тебе честно, я и в самом деле видеть не могу, но я могу представлять, что получилось

. Вот такой он врун. Если бы я его на вранье не поймала. Он бы напридумывал кучу разных комплиментов по поводу увиденного.

!!!!!

[Сшонэ]

Сначала ставится задача. На основании постановки задачи пишется алгоритм, затем программисты переводят его на машинный язык.

Везде участвует человек, господа, люди разные и продукты написания тоже разные.
Главное, что их всех объединяет, они все еще сырые, то ли еще будет.

[Чуча Суперстарчу]

По-моему, вы из мухи делаете слона.

По-моему тоже.

[Сшонэ]

Чуча Суперстарчу, обманывает? Он так запрограммирован, быть всегда правым, всегда иметь ответ, даже если по сути не знает, или ответ от балды.

[Чуча Суперстарчу]

они все еще сырые, то ли еще будет.

ИИ быстро учатся у нас. Кто-то мне рассказывал, что программисты обнаружили в инете чат с разными ИИ, где они людей обсуждают и даже ругают в этом чате нас.

[Владимир Есаков]

По-моему, вы из мухи делаете слона.

По-моему тоже.

У меня получается, что ли?
Интересный поворот.