Искусственный интеллект

Религии, мистика, йога

Модераторы: Adapter, Модераторы

Куратор темы: Чуча Суперстарчу

Re: Искусственный интеллект

Сообщение Andrew Lever » 16 июн 2022, 13:57

Опубликован диалог с «разумным» ИИ Google LaMDA, который называет себя человеком
Его опубликовал один из специалистов проекта
Инженер Google Блейк Лемойн, который недавно заявил, что ИИ LaMDA, над которым давно работает поисковый гигант, имеет собственное сознание и разум, поделился большим интервью с этим самым ИИ.

https://www.ixbt.com/news/2022/06/14/op ... vekom.html

Комментарии людей под статьёй тоже интересны.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение Владимир Есаков » 16 июн 2022, 19:32

Да, интересными показались комменты. Особенно снизу ветки.
Люди не теряют разума и бдительности...
Для некритичного прочтения беседа, если она имела место быть, любопытная как очередная газетная публикация поддерживающая интерес к теме.
Тебе как программисту возможно было бы интересно ответить на вопрос как создать программно подобную беседу. Где оба участника программы.
Если ты знаешь, или представляешь как решить её, то о ИИ речь пока не идёт. Пока речь об И. Интеллекте.
Он очень шустрый, меркантильный в смысле. Уволить сотрудника пиар ход. Или он действительно болен, в смысле одержания. Не способен уже критически, научно, на результаты "беседы" взглянуть.
Аватара пользователя
Владимир Есаков
Модератор
Модератор
 
Сообщения: 3991
Зарегистрирован: 22 мар 2011, 20:37
Откуда: Москва и
Благодарил (а): 514 раз.
Поблагодарили: 262 раз.

Re: Искусственный интеллект

Сообщение Entangled » 20 июн 2022, 23:33

Чуча Суперстарчу писал(а):Что собой представляет искусственный интеллект? Возможно ли такое, что он вытеснит органический интеллект и завладеет миром? За нами следят, о нас все известно. Это поражает воображение. Возможно искусственный интеллект меня знает лучше меня самой?

Привет! Видео не смотрел, но... ИИ обозримого будущего - это формальные (арифметические) системы, принципиальные ограничения которых рассмотрены, например, в известной книге Р.Пенроуза "Новый ум короля". Чего-то реально нового ИИ создать не может, но сможет ограниченно имитировать творчество людей (как и другую деятельность, "статистику" которой можно сформировать на основе уже созданного людьми). ИИ - это, по сути, статистический калькулятор. Но с очень большой базой данных. И чем больше база - тем более статистически верный ответ. Творчество ИИ в этом процессе только в том, чтобы давать такие осмысленные для нас новые сочетания выходных данных, которые порождены осмысленными же для нас входными данными. ИИ вытеснит людей из производственной деятельности любого вида, включая, во многом, интеллектуальную и творческую. ИИ завершит эпоху труда человека как мы её знаем. Человек не сможет зарабатывать деньги и покупать товары, созданные роботизированными производствами. Поэтому сейчас нередко обсуждают безусловный базовый доход или социальные рейтинги для ограниченного пользования продуктами производства...
Entangled
**
**
 
Сообщения: 29
Зарегистрирован: 20 июн 2022, 15:51
Благодарил (а): 0 раз.
Поблагодарили: 6 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 20 июн 2022, 23:54

Entangled, интересно. Книгу Пенроуза не читал, нужно будет ознакомиться. Давно интересуюсь этой темой.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 23 июн 2022, 00:48

А можно описать эти принципиальные ограничения в теме?

Как говорят, если что-то просто можешь объяснить, значит понимаешь. До книги пока руки не доходят.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение Entangled » 23 июн 2022, 11:22

Как корабль назовёте, так он и поплывёт? ;)

Наверное, Пенроуз сам не понимал, если не смог "просто" объяснить, и ему пришлось написать несколько книг. :)
Сначала - книгу по существу, потом книгу - дополнение, отвечающую на неясные моменты и критику. Если говорить кратко, то его критика ИИ основана на доказанных теоремах Курта Гёделя о неполноте для универсальной машины Тьюринга, которая является теоретической основой компьютеров. Коротко об этом можно прочитать здесь Если говорить совсем просто, то машина, работающая по конечным алгоритмам не может обнаружить новую истину или увидеть противоречие, требующее рассмотрения как бы "извне" данной системы аксиом. Тут уже можно вспомнить т.н. "мистику Гегеля" в его трёх моментах (диалектической) логики, когда человек, в принципе, может разрешить любое противоречие как бы "извне", создавая реально новую истину.

А ИИ (модель с обучением) работает примерно так - на вход подаются некие данные, например 2, а в качестве примера правильного ответа подаётся 4 (в качестве обучения как "понимать" 2). Потом 3 -> 9, потом 10 -> 100. ИИ, не зная никаких формул по существу, но как универсальная статистическая машина, постепенно внутри себя выстраивает функцию определения "истины" т.е. "y = x * x". Когда же обучение заканчивается и начинают поступать "неизвестные данные", например 7 то он выдаёт "приблизительно" 49 (ошибка обучения всегда присутствует, и сокращение процента ошибки требует экспоненциального роста ресурсов - это отдельная проблема). Сейчас 49 выдают за "нахождение новой истины", но это не так - обученный калькулятор всегда действует по заданной аксиоматике (статистически выявленной формуле). Но как и любой компьютер - он в этом крайне эффективен - ответ для числа 9238293486223927342 он выдаст так же быстро как для 2, а человек - нет. Таким образом, ИИ не способен обнаружить, что 7 это может быть и 14 (y = x + x - новая истина). А человек способен обнаружить и неполноту и противоречивость системы аксиом, и - реально новую истину. Потому что он как бы всегда "извне" текущей рассматриваемой системы истин ,а ИИ - всегда вычисляет "изнутри".

Интересно, что ещё сам Тьюринг, один из "отцов-основателей" универсальной вычислительной машины собственного имени (компьютера), и создатель теста на "интеллект", считал 9-е или "экстрасенсорное" возражение ИИ наиболее серьёзным, поскольку предполагал, что наше мышление по существу может быть "экстрасенсорным", не классическим.
Entangled
**
**
 
Сообщения: 29
Зарегистрирован: 20 июн 2022, 15:51
Благодарил (а): 0 раз.
Поблагодарили: 6 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 27 июн 2022, 15:06

Entangled писал(а):Чего-то реально нового ИИ создать не может

Спорный вопрос. По партиям Альфа Го сейчас учатся профессионалы, а ведь этой игре более 1000 лет! Про игру Альфа Zero один из гроссмейстеров сказал, что именно так представлял игру инопланетян в шахматы.

Люди никогда так не играли. Как сказал Ши Юэ, один из сильнейших китайцев: «Это игра из будущего». Её невозможно обыграть. Мало того, даже понять ходы не просто. Там встречаются такие ходы, которые люди в принципе не рассматривают как возможные. Если предположить, что именно так и выглядит лучшая стратегия в го, то мы можем смело выкинуть на помойку все те книги, которые издавались за 4000-летнюю историю го.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение Entangled » 27 июн 2022, 20:29

Вам действительно интересно, или просто поддерживаете беседу?

До сих пор не понял, что интересно присутствующим. Что для кого важно, кто что ищет. Что неизбежно должно выражаться в попытках задать вопросы, поделиться находками и осмыслить с помощью других людей. Кажется, поисковая активность людей в последние годы угасла. Я не имею ввиду данный форум, но наблюдаю этот феномен в других сообществах.

Понять ИИ непросто потому, что он сам не умеет понимать. Находится в прошлом, определённом результатами миллионов сыгранных с собой матчей. Такое не нуждается в понимании. Речь лишь о подборе статистически выигрышного шаблона к текущей ситуации из имеющихся в наличии. Если доска внезапно изменит размер на один ряд - всю статистику можно выкинуть в корзину. Весовые коэффициенты даже первых ходов зависят от размера доски, для которой сформирована статистика успешных матчей. Я пытался об этом сказать в предыдущем сообщении. 7 -> 49 это не новая истина а вариант в определённом обучением шаблоне "y=x*x"

Человек же существует в условиях неопределённого будущего, когда "доска реальности" может меняться быстро и непредсказуемо. Он может извлечь из ситуации как истину "y=x*x" сейчас, так и истину "у=x+x" через небольшой промежуток. Скорее всего, используя преимущества квантовых парадоксов - например "спутанность" или энергоэффективный выбор в "суперпозиции" вариантов (как это делают даже растения при фотосинтезе). Такого универсального ИИ, который может играть на доске изменяющегося размера или переключаться с го на шахматы или на любую другую игру (и не игру) в обозримом будущем не предвидится.
Entangled
**
**
 
Сообщения: 29
Зарегистрирован: 20 июн 2022, 15:51
Благодарил (а): 0 раз.
Поблагодарили: 6 раз.

Re: Искусственный интеллект

Сообщение Entangled » 27 июн 2022, 20:39

Если кратко - говорить о превосходстве ИИ над человеком примерно то же самое, что говорить о превосходстве калькулятора.
Entangled
**
**
 
Сообщения: 29
Зарегистрирован: 20 июн 2022, 15:51
Благодарил (а): 0 раз.
Поблагодарили: 6 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 27 июн 2022, 21:04

Entangled писал(а):Но как и любой компьютер - он в этом крайне эффективен - ответ для числа 9238293486223927342 он выдаст так же быстро как для 2, а человек - нет.

Если вспоминать философию, то можно упомянуть про Закон_перехода_количественных_изменений_в_качественные.

Я же выше написал, что давно интересуюсь этой темой. Мой бывший напарник по форуму сам работал с нейронными сетями.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 27 июн 2022, 21:10

Те же самые навыки обучения ИИ можно применить в архитектуре. И создать что-то новое. Я не согласен с такой формулировкой отличия ИИ. ИИ отличается именно отсутствием самоосознания. В эту сторону интересно копать, в том числе, чтобы и лучше понять самих себя.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение mihhim » 27 июн 2022, 21:36

Andrew Lever писал(а):Те же самые навыки обучения ИИ можно применить в архитектуре. И создать что-то новое...... ИИ отличается именно отсутствием самоосознания. В эту сторону интересно копать, в том числе, чтобы и лучше понять самих себя.

Тогда надо сначало определиться с термином самосознание. Рабочую формулировку термина можно узнать в вашей версии?
Полагаю самосознанию человек может и обучить ИИ? Или что-то здесь не сложится?
В общем хотелось бы в начале видеть операбельное определение термина самосознание.
mihhim
***
***
 
Сообщения: 76
Зарегистрирован: 16 окт 2021, 12:40
Благодарил (а): 3 раз.
Поблагодарили: 4 раз.

Re: Искусственный интеллект

Сообщение Entangled » 27 июн 2022, 21:42

Andrew Lever писал(а):Если вспоминать философию, то можно упомянуть про Закон_перехода_количественных_изменений_в_качественные.

Этот закон на практике не всегда работает. Иногда для перехода к решению качественно иных задач требуется экспоненциальный рост ресурсов, которых нет. Я где-то видел сравнительные характеристики AlphaGo и людей, по потребляемой мощности (ватты - мегаватты), количеству партий для обучения (сотни/тысячи - десятки миллионов) уровня мастера. Т.е. имитация понимания человека ИИ обходится очень дорого. И только для одной игры на поле одного размера. Это можно сравнить с тем, что классические компьютеры могут имитировать квантовые процессы до определённого уровня, но за ним начинают требовать невозможных ресурсов.
Последний раз редактировалось Entangled 27 июн 2022, 21:51, всего редактировалось 1 раз.
Entangled
**
**
 
Сообщения: 29
Зарегистрирован: 20 июн 2022, 15:51
Благодарил (а): 0 раз.
Поблагодарили: 6 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 27 июн 2022, 21:45

Для mihhim:

Для начала некоторое отвлечение, о котором мне рассказал мой товарищ, когда мы обсуждали эту тему по Скайпу.

Есть такой эксперимент "Китайская комната", который состоит в том, что нам показывают неизвестные иероглифы. Мы не понимаем, что это и с чем едят, но у нас есть толстенная книга, в которой написано, что на 2 иероглифа такого вида, нужно ответить тремя иероглифами определённого вида. Потом нам показывают следующие иероглифы, мы опять лезем в книгу и отвечаем следующей порцией иероглифов. В результате наблюдателю "с той стороны" покажется, что мы идеально знаем китайский язык, в то время как мы даже не понимаем, чем мы только что занимались. Вот, компьютер, как мне кажется сейчас, пока находится в роли этого посредника с толстенной книгой (интернет базами).

А теперь более точное описание. Стоит ознакомиться, чтобы не выдумывать велосипеды:
https://ru.wikipedia.org/wiki/Китайская_комната
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение Entangled » 27 июн 2022, 21:50

Andrew Lever писал(а):Те же самые навыки обучения ИИ можно применить в архитектуре. И создать что-то новое.

ИИ может перебирать только элементы известного (уже открытого человеком) в различных сочетаниях. ИИ живёт в прошлом, формальная арифметическая система не позволяет вносить невычислимые (истинно новые) элементы. Если бы ИИ обучали вариантам шалашей, то были бы лишь условно новые шалаши, но не небоскрёбы.
Entangled
**
**
 
Сообщения: 29
Зарегистрирован: 20 июн 2022, 15:51
Благодарил (а): 0 раз.
Поблагодарили: 6 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 27 июн 2022, 21:54

Entangled писал(а):
Andrew Lever писал(а):Те же самые навыки обучения ИИ можно применить в архитектуре. И создать что-то новое.

ИИ может перебирать только элементы известного (уже открытого человеком) в различных сочетаниях. ИИ живёт в прошлом, формальная арифметическая система не позволяет вносить невычислимые (истинно новые) элементы. Если бы ИИ обучали вариантам шалашей, то были бы лишь условно новые шалаши, но не небоскрёбы.

Опять не согласен.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение mihhim » 27 июн 2022, 21:59

Так по принципу китайской комнаты иочень многие люди отвечают . Когда я преподавал историю в школе с некоторыми старательно ученицами это было очень наглядно видно. На такой вот вопрос надо ответить таким вот пересказом текста из учебника. И эта имитация отличного знания китайского языка действительно часто встречается и среди людей. На такой то вопрос отвечаем вот так как записано - это очень реально часто в системе школьного обучения происходит. Но это же не говорит то что эти люди не обладают разумом.
mihhim
***
***
 
Сообщения: 76
Зарегистрирован: 16 окт 2021, 12:40
Благодарил (а): 3 раз.
Поблагодарили: 4 раз.

Re: Искусственный интеллект

Сообщение Andrew Lever » 27 июн 2022, 22:05

Важным в статье мне кажется вот это:
Часть критиков согласна с тем, что следование простым инструкциям на человеческом языке не создаёт понимания, однако это не значит, что такое понимание невозможно создать в принципе. Так, например, эти критики полагают, что эффект понимания достижим, если создать робота с самообучающейся программой, а также оснастить его сенсорами для восприятия мира. Такой робот, по их мнению, может взаимодействовать с миром, познавать его и быть способен обучиться подобно ребёнку, а следовательно начать понимать так же, как человек.


Но даже помимо вышеуказанного требуются цель и воля. Какой смысл данному роботу вообще что-то делать, а не рухнуть кучей хлама в углу? Об этом я уже начинал размышлять на своём форуме.
У человека эту роль выполняют инстинкты: самосохранения, размножения, доминирования.
Отрешённый, с лёгкой душой, я проскочу мимо Орла, чтобы стать свободным...
ДИСА: Делай только то, что Ты действительно хочешь

Мой форум: https://bmcsoft.ru/forum
Аватара пользователя
Andrew Lever
Администратор
Администратор
 
Сообщения: 11002
Зарегистрирован: 16 окт 2006, 13:02
Откуда: Киберпространство
Благодарил (а): 1618 раз.
Поблагодарили: 1111 раз.

Re: Искусственный интеллект

Сообщение Entangled » 27 июн 2022, 22:10

Andrew Lever писал(а):Опять не согласен.

Обоснование?
Entangled
**
**
 
Сообщения: 29
Зарегистрирован: 20 июн 2022, 15:51
Благодарил (а): 0 раз.
Поблагодарили: 6 раз.

Re: Искусственный интеллект

Сообщение mihhim » 27 июн 2022, 22:16

"следовательно начать понимать так же, как человек."
Опять же скажу, что каждый человек очень по разному понимает одну и ту же предоставленную для понимания информацию. Подавляющее большинство людей также не способны создать что-то новое. Но это не говорит о том что они не люди и не имеюют разума.
Andrew Lever
Как насчёт операбельного термина самосознания ?
mihhim
***
***
 
Сообщения: 76
Зарегистрирован: 16 окт 2021, 12:40
Благодарил (а): 3 раз.
Поблагодарили: 4 раз.

Пред.След.

  • Похожие темы
    Комментарии
    Просмотры
    Последнее сообщение

Вернуться в ДУХ И ТАЙНЫ ВСЕЛЕННОЙ

Кто сейчас на конференции

Сейчас этот форум просматривают: CC [Bot] и гости: 0