Свой ум или ИИ?

[DK]

Частично понятно почему - нейросеть немного умеет обобщать, выявлять архетипы, паттерны. Но это только часть объяснения.

В общем моя мысль такая - все что когда либо изобрели люди возможно изобрели не люди. А люди стали лишь проводником и инструментом через который все эти вещи изобрела эволюция.

Что касается машинных нейросетей, они же тоже не были придуманы с нуля. Это же прямая калька с биологических нейросетей. Люди посмотрели как это сделала природа и сделали похоже - и это сработало. Но почему это сработало - толком не понятно. То есть всё это наводит на мысль что не мы авторы.

[Sadovod]

А люди стали лишь проводником и инструментом через который все эти вещи изобрела эволюция.

имхо дилемма - люди изобрели - люди были проводником - не проверяема, необоснуема, выбор альтернативы не влияет на решения на практике...
вощем - философия.

[DK]

Не философия, попытка нащупать принципы как работает реальная эволюция. Мне это интересно для моих проектов.

Вот взять дарвиновскую эволюцию. Говорят - это биологическая эволюция. Ок , появляется культура, письменность, математика, технология, цивилизация - это уже не биологическая? Но ведь на уровне генетики закрепляются те мутации которые оказались полезны в реальной среде, и если это среда где есть письменность и цивилизация - генетически и биологически закрепляются способности которые позволяют выживать в этой среде. То есть все равно движок эволюции остаётся тот же биологический, меняется только целевая функция.

[Sadovod]

Там дальше коэволюция

https://share.google/BkrvCGYpwuVxG7Yur

«Ружья, микробы и сталь: судьбы человеческих обществ» (англ. Guns, Germs, and Steel: The Fates of Human Societies) — междисциплинарная научно-популярная книга американского учёного Джареда Даймонда, удостоенная Пулитцеровской премии в номинации за нехудожественную литературу в 1998 году[1].

[Sadovod]

Может глубже и есть но я не нарыл и недосуг((

[Sadovod]

ИИ это что то в тему "эволюция знаковых систем."...

Возможно(((

[DK]

Да, коэволюция. Но если удалить из системы человека - все остальное развалится и не сможет эволюционировать дальше - в человеке связующее звено завязанное на его генетическую эволюцию.

Кажется всё же очередной прорыв в ИИ будет. И это будет скорей всего связано с моделью Gato от DeepMind.

[DK]

Короче да. Времена радикально изменились.

Теперь каждый имеет возможность вести бизнес в одиночку имея в своём распоряжении только ИИ вместо сотрудников. Никогда раньше такой роскошной возможности не существовало. Кто не лох ловит момент. И возврата к прошлому уже не будет. Это необратимо. Нужно понять это новое время и радикально перестроить мозги. Чтобы не пополнить клуб бомжей.

[DK]

Хотя перехвалил я его. В сложных проектах пасует.

Что я понял - он отлично ориентируется в том что было в обучающих данных. Содрать уже известную архитектуру - сделает без сучка и задоринки. Но как только стоит задача поработать с полностью специфическим проектом - начинает путаться и допускать ошибки, не врубается в контекст и в итоге вся экономия времени сдувается на бесконечные исправления после того что он нахомутал.

Вывод - надо обучать собственную LLM на своих данных. А лучше - файн тюнинг какой нибудь большой модели на свои данные.
Оно хорошо шарит только в данных на которых обучалось.

[Андрей Осипов]

Я тут послушал разговор о многосерийном фильме «Москва и москвичи» по известной книге Гиляровского. Этот фильм сгенерирован ИИ. Отзывались те, кто эту книгу очень любит.

Первая попытка сделать этот фильм с помощью ИИ была очень кривой. Там люди с шестью пальцами и т. д. Сейчас уже более-менее адекватно. Но, по словам обсуждающих, смотреть этот фильм невозможно... Персонажи неживые... А ведь там много серий... И, по словам участников, он был снят на государственные деньги и выложен в прокате на паре платформ...

[DK]

В целом решение - не пытаться добиться от LLM "всё и сразу". Нужно дробить задачу на более локальные подзадачи и работать над каждой подзадачей изолированно. Тогда LLM работает чище. Да, это требует более скрупулезного подхода чем "нажми на кнопку получишь результат" но всё же это и не такой муторный мартышкин труд как писать код вручную. Это нормальный компромисс. Работать с этим можно.

[DK]

Еще что я понял про работу с LLM.

Содержащий нелогичности и внутренние противоречия запрос - причина галлюцинаций модели. Если запрос чист в плане логики то обычно модель выдает качественные решения без ошибок. Но если в запросе есть невнятности, нестыкуемости, то модель не скажет тебе "проверь качество своего запроса", вместо этого она молча что-то сгенерирует по твоему запросу но это что-то будет с галлюцинациями и в целом нерабочим.

То есть используя LLM вовсе нельзя работать по принципу "выключил мозг оно само разберется и всё сделает как надо". Это в целом похоже на программирование - так же как и в обычном программировании нужна собственная способность формулировать четкие не содержащие внутренних противоречий и логических ошибок запросы.

[Sadovod]

Теорема Геделя вполне намекает на то что в материале, на котором училась модель, запросто могло быть или недоказуемое или противоречивое....

Кто ее знает чем ее кормили пока она росла((

[Анахита]

Из опыта работы с ИИ.
Вводили в бизнес ИИ, я наблюдала за процессом, устроит ли нас передать одну из функций ИИ. Ответы людям, разным, сначала была в восторге, насколько красиво отвечал, корректно, граммотно, красиво, интеллектуально, просто куча моих восторгов было)))А потом вот что заметила, совсем не улавливает чувств эмоций людей стоящих за словами, тонких моментов, сарказма, недовольства и так далее...Я например могла уловив эти моменты, повернуть результат в нужную мне сторону( не всегда конечно) а ИИ нет. Думаю это будет плюс людям в их споре с ИИ. Все равно оставили, потому что в 95 процентах случаев прекрасно справляется с задачей, ну а в 5 процентах подключается кто-либо из людей)))

[DK]

Теорема Геделя вполне намекает на то что в материале, на котором училась модель, запросто могло быть или недоказуемое или противоречивое....

Кто ее знает чем ее кормили пока она росла((

Это да. В отличие от обычного программирования выучить правила или синтаксис не получится. Это больше похоже как общаясь с человеком ты выучиваешь из какого теста он сделан и тогда уже примерно понимаешь как с ним общаться. То же самое и с LLM - нужно просто путем проб и ошибок написать с ней пару десятков проектов (благо это делается быстро - по три за день бывает) и тогда вырабатывается наитие как извлекать из неё профит.

[Sadovod]

https://en.wikipedia.org/w/index.php?ti ... _psychosis

тут рассказали мне
что с ускореньем можно
через ИИ свою кукуху
ушатать.

Смотря о чем
с ним говорить
неосторожно

[Андрей Осипов]

Проблема в том, что ИИ берет информацию только из интернета. Например из той же Вики. На веру, без проверки ее на реальность. Просто читая статьи из интернета У ИИ нет личного опыта. Поэтому направлением мышления такого "умника" легко управлять с помощью целенаправленной лжи, с помощью фейков, размещенных в интернете. Я так понимаю, это будет делаться. А, с учетом, что современные дети активно используют тот же Гига чат или Алису, таким образом будут управлять воспитанием детей. Современные дети не смотрят телевизор, ни кино, не читают ни газет, ни журналов, ни книжек.. даже интернет не читают.... поиском не пользуются. Вместо поиска и чтения интернета используют голосовой ГигаЧат..
- "Ответь мне, Гигачат!".

Умение самостоятельно мыслить быстро отмирает...

[DK]

Помню давно друг один говорил что изобретение калькулятора сделало людей глупее. Это всё такие несерьезные разговоры. Да, наверное какие-то функции которые мы раньше делали своими мозгами а теперь делает машина - они атрофируются. Но дело в том же что умными нас делает не умение считать в столбик. И если эта функция атрофируется то мы ничего особо ценного не потеряем. Наше свойство - адаптироваться под любую среду. И учиться достигать своих целей используя ресурсы среды. Будь до джунгли или среда где повсюду роботы и ИИ. Но просто люди всегда делятся на тех кто плывут по течению и тех кому так не интересно. И не важно это в прошлом веке или в этом веке со всеми его ИИ. Подавляющее большинство и так всегда плыло по течению и не думало своей головой - с приходом ИИ в этом мало что изменится. И всегда было меньшинство у которых шило в жопе и они двигались туда куда сами хотят а не куда несет течение. И с приходом ИИ это тоже никуда не исчезнет - этот процент как был так и останется. Короче я не сторонник апокалиптических теорий. Но то что ИИ конкретно переформатирует наш образ жизни это понятно.

тут рассказали мне
что с ускореньем можно
через ИИ свою кукуху
ушатать.

Ну если такая хлипкая кукуха то и не жалко. Естественный отбор.

[Андрей Осипов]

Короче я не сторонник апокалиптических теорий.

Я вовсе не про апокалипсис. Я о том, что пользователи ИИ так же подвержены пропаганде, как в прошлом были подвержены читатели газет и зрители телевизора. Т.е. использование ИИ не дает объективности...

Раньше говорили "Это же в газете написано! Как оно может быть неправдой?". А теперь некоторые так же верят текстам от ИИ.

Это про иллюзии поклонников ИИ, считающих, что использование ИИ дает им свободу мышления и объективность.