Свой ум или ИИ?

[DK]

Частично понятно почему - нейросеть немного умеет обобщать, выявлять архетипы, паттерны. Но это только часть объяснения.

В общем моя мысль такая - все что когда либо изобрели люди возможно изобрели не люди. А люди стали лишь проводником и инструментом через который все эти вещи изобрела эволюция.

Что касается машинных нейросетей, они же тоже не были придуманы с нуля. Это же прямая калька с биологических нейросетей. Люди посмотрели как это сделала природа и сделали похоже - и это сработало. Но почему это сработало - толком не понятно. То есть всё это наводит на мысль что не мы авторы.

[Sadovod]

А люди стали лишь проводником и инструментом через который все эти вещи изобрела эволюция.

имхо дилемма - люди изобрели - люди были проводником - не проверяема, необоснуема, выбор альтернативы не влияет на решения на практике...
вощем - философия.

[DK]

Не философия, попытка нащупать принципы как работает реальная эволюция. Мне это интересно для моих проектов.

Вот взять дарвиновскую эволюцию. Говорят - это биологическая эволюция. Ок , появляется культура, письменность, математика, технология, цивилизация - это уже не биологическая? Но ведь на уровне генетики закрепляются те мутации которые оказались полезны в реальной среде, и если это среда где есть письменность и цивилизация - генетически и биологически закрепляются способности которые позволяют выживать в этой среде. То есть все равно движок эволюции остаётся тот же биологический, меняется только целевая функция.

[Sadovod]

Там дальше коэволюция

https://share.google/BkrvCGYpwuVxG7Yur

«Ружья, микробы и сталь: судьбы человеческих обществ» (англ. Guns, Germs, and Steel: The Fates of Human Societies) — междисциплинарная научно-популярная книга американского учёного Джареда Даймонда, удостоенная Пулитцеровской премии в номинации за нехудожественную литературу в 1998 году[1].

[Sadovod]

Может глубже и есть но я не нарыл и недосуг((

[Sadovod]

ИИ это что то в тему "эволюция знаковых систем."...

Возможно(((

[DK]

Да, коэволюция. Но если удалить из системы человека - все остальное развалится и не сможет эволюционировать дальше - в человеке связующее звено завязанное на его генетическую эволюцию.

Кажется всё же очередной прорыв в ИИ будет. И это будет скорей всего связано с моделью Gato от DeepMind.

[DK]

Короче да. Времена радикально изменились.

Теперь каждый имеет возможность вести бизнес в одиночку имея в своём распоряжении только ИИ вместо сотрудников. Никогда раньше такой роскошной возможности не существовало. Кто не лох ловит момент. И возврата к прошлому уже не будет. Это необратимо. Нужно понять это новое время и радикально перестроить мозги. Чтобы не пополнить клуб бомжей.

[DK]

Хотя перехвалил я его. В сложных проектах пасует.

Что я понял - он отлично ориентируется в том что было в обучающих данных. Содрать уже известную архитектуру - сделает без сучка и задоринки. Но как только стоит задача поработать с полностью специфическим проектом - начинает путаться и допускать ошибки, не врубается в контекст и в итоге вся экономия времени сдувается на бесконечные исправления после того что он нахомутал.

Вывод - надо обучать собственную LLM на своих данных. А лучше - файн тюнинг какой нибудь большой модели на свои данные.
Оно хорошо шарит только в данных на которых обучалось.

[Андрей Осипов]

Я тут послушал разговор о многосерийном фильме «Москва и москвичи» по известной книге Гиляровского. Этот фильм сгенерирован ИИ. Отзывались те, кто эту книгу очень любит.

Первая попытка сделать этот фильм с помощью ИИ была очень кривой. Там люди с шестью пальцами и т. д. Сейчас уже более-менее адекватно. Но, по словам обсуждающих, смотреть этот фильм невозможно... Персонажи неживые... А ведь там много серий... И, по словам участников, он был снят на государственные деньги и выложен в прокате на паре платформ...

[DK]

В целом решение - не пытаться добиться от LLM "всё и сразу". Нужно дробить задачу на более локальные подзадачи и работать над каждой подзадачей изолированно. Тогда LLM работает чище. Да, это требует более скрупулезного подхода чем "нажми на кнопку получишь результат" но всё же это и не такой муторный мартышкин труд как писать код вручную. Это нормальный компромисс. Работать с этим можно.

[DK]

Еще что я понял про работу с LLM.

Содержащий нелогичности и внутренние противоречия запрос - причина галлюцинаций модели. Если запрос чист в плане логики то обычно модель выдает качественные решения без ошибок. Но если в запросе есть невнятности, нестыкуемости, то модель не скажет тебе "проверь качество своего запроса", вместо этого она молча что-то сгенерирует по твоему запросу но это что-то будет с галлюцинациями и в целом нерабочим.

То есть используя LLM вовсе нельзя работать по принципу "выключил мозг оно само разберется и всё сделает как надо". Это в целом похоже на программирование - так же как и в обычном программировании нужна собственная способность формулировать четкие не содержащие внутренних противоречий и логических ошибок запросы.

[Sadovod]

Теорема Геделя вполне намекает на то что в материале, на котором училась модель, запросто могло быть или недоказуемое или противоречивое....

Кто ее знает чем ее кормили пока она росла((

[Анахита]

Из опыта работы с ИИ.
Вводили в бизнес ИИ, я наблюдала за процессом, устроит ли нас передать одну из функций ИИ. Ответы людям, разным, сначала была в восторге, насколько красиво отвечал, корректно, граммотно, красиво, интеллектуально, просто куча моих восторгов было)))А потом вот что заметила, совсем не улавливает чувств эмоций людей стоящих за словами, тонких моментов, сарказма, недовольства и так далее...Я например могла уловив эти моменты, повернуть результат в нужную мне сторону( не всегда конечно) а ИИ нет. Думаю это будет плюс людям в их споре с ИИ. Все равно оставили, потому что в 95 процентах случаев прекрасно справляется с задачей, ну а в 5 процентах подключается кто-либо из людей)))

[DK]

Теорема Геделя вполне намекает на то что в материале, на котором училась модель, запросто могло быть или недоказуемое или противоречивое....

Кто ее знает чем ее кормили пока она росла((

Это да. В отличие от обычного программирования выучить правила или синтаксис не получится. Это больше похоже как общаясь с человеком ты выучиваешь из какого теста он сделан и тогда уже примерно понимаешь как с ним общаться. То же самое и с LLM - нужно просто путем проб и ошибок написать с ней пару десятков проектов (благо это делается быстро - по три за день бывает) и тогда вырабатывается наитие как извлекать из неё профит.