Искусственный интеллект

[Andrew Lever]

Опять не согласен.

Обоснование?

Компьютер научился играть в го и изобрёл новые стратегии только лишь на основании вложенных в него правил игры. Он не использовал человеческие наработки. Так же может быть и с архитектурой, хотя описание правил, безусловно, будет сложнее.
Так же может быть и с музыкой. Невозможно утверждать, что компьютер не может создать ничего нового. В таком случае и 99.9% людей не способны создать ничего нового.

[Andrew Lever]

Как насчёт операбельного термина самосознания ?

Я предлагаю не торопиться, а подождать, пока оно выкристаллизуется. Наподобие метода: https://blog.openyogaclass.com/dzhnana- ... -to-ne-to/

[Entangled]

ИИ отличается именно отсутствием самоосознания.

Есть такой эксперимент "Китайская комната"

Но аргумент китайской комнаты не доказывает отсутствие самосознания у ИИ. Он лишь показывает, что "тест Тьюринга" не годится для доказательства самосознания и понимания. Имитация внешних проявлений самосознания и понимания может быть очень тщательной.

[Andrew Lever]

Entangled, а вы полностью читали диалог с ИИ выше по ссылке? Что сами думаете?

mihhim:
а я так и не уверен, считаю ли Я свой разум собой. Вроде дальше в джнана-йоге надо выйти на "свидетеля" или "наблюдателя". Тут уже могут подсказать более эзотеричные товарищи.

[mihhim]

требуются цель и воля. Какой смысл данному роботу вообще что-то делать, а не рухнуть кучей хлама в углу? Об этом я уже начинал размышлять на своём форуме.
У человека эту роль выполняют инстинкты: самосохранения, размножения, доминирования.

Полагаю для ИИ цель, волю, жажду самосохранения, размножения и доминирования в уже готовый ИИ даже одному человеку не особо сложно добавить. А раз так для такого усложнения ИИ вообще не будет проблем. Это в мгновение по сравнением с историей развития человека свершится.

[Andrew Lever]

требуются цель и воля. Какой смысл данному роботу вообще что-то делать, а не рухнуть кучей хлама в углу? Об этом я уже начинал размышлять на своём форуме.
У человека эту роль выполняют инстинкты: самосохранения, размножения, доминирования.

Полагаю для ИИ цель, волю, жажду самосохранения, размножения и доминирования в уже готовый ИИ даже одному человеку не особо сложно добавить. А раз так для такого усложнения ИИ вообще не будет проблем. Это в мгновение по сравнением с историей развития человека свершится.

Но это будет навязанная человеком цель. А что насчёт того, чтобы он смог сам себе ставить цели? Перепрограммировать себя? И не опасно ли это? Полная свобода воли для ИИ?

И не получается ли здесь замкнутый круг: дать ИИ цель, чтобы появилось самосознание, чтобы когда появится самосознание, он придумал цель? Похоже на попытки Мюнхгаузена вытащить самого себя за волосы из болота. Или на попытки трясти «первичный бульон», в надежде, что там вдруг зародится жизнь.

[Entangled]

Невозможно утверждать, что компьютер не может создать ничего нового.

Видимо, мы по разному понимаем "новую информацию". Если опираться на понятие информационной энтропии, то реально новая информация связана с непредсказуемостью (невычислимостью). В изложенном мной упрощённом примере обучения ИИ, статистическая конденсация формулы y = x*x делает всю информацию ИИ предсказуемой по этой формуле. Исправный компьютер вообще не имеет предрасположенности к выдаче невычислимой (истинно новой) информации. Она лишь может выглядеть для человека таковой. Но таковой не является.

[mihhim]

"

Но это будет навязанная человеком цель. А что насчёт того, чтобы он смог сам себе ставить цели? Перепрограммировать себя? И не опасно ли это? Полная свобода воли для ИИ?

Так человек в общем то заявленные цели и сам
для себя не определяет. Научишь перепрограммировать себч ИИ - будет перепрограммировать. И да при больших возможностях такая свобода воли ИИ для человечества тревожна и опасна. Но учитывая что научить ИИ такой свободе может и небольшая группа людей - этой свободы надо просто опасно или поздно ожидать.
Пока существуют капитализм, конкуренция у групп людей и войны развитие ИИ неизбежно. И по видимому неизбежна и такая свобода для ИИ.

[Andrew Lever]

mihhim, ты мыслишь как бы фентезийно, не понимая некоторых технических сложностей. Была такая игра у моего друга: несколько участников, ведущий игры и воображаемый мир. Все участники словесно ведут взаимодействия в этом мире, а ведущий выстраивает рамки и является арбитром в спорных ситуациях. В данном случае выдумать просто "Научишь перепрограммировать себч ИИ - будет перепрограммировать". А по сути ещё нет таких программ и неизвестно, когда появятся.
Я тоже могу придумать: "а я махну пёрышком и у меня под деревом появится миллион баксов и красивая жена". "Докажи!" - скажет ведущий

[Entangled]

Entangled, а вы полностью читали диалог с ИИ выше по ссылке? Что сами думаете?

Чем больше памяти и процессорная мощность, а значит, статистическое разрешение (~ чем меньше пиксель на экране) - тем более качественную имитацию общения мы наблюдаем. Классический статистический калькулятор под названием Лямбда, из кусочков произнесённых человеком фраз, диалогов, романов, подбирает всё более точное сочетание "ответов", которые человеку кажутся осмысленными - и только потому, что ранее человек скормил этому калькулятору массу осмысленных текстов, чтобы он обсчитал статистические закономерности связей между элементами текста. Например, если начать общаться с YaLM, то вначале - идиот идиотом, т.к. слабый контекст разговора, но по мере роста количества вопросов-ответов в разговоре (т.е. размера контекста) - подбирает всё более статистически точные ответы. Это всё просто калькулятор. Который, впрочем, ещё много бед натворит, и много кого обманет.

[Andrew Lever]

Entangled, в принципе я разделяю вашу позицию, но у вас будто бы проскакивает некая "обида" на компьютеры... вы всё время подчёркиваете, что человек совершенней и проч. А мне как программисту, наоборот, интересней, чтобы ИИ стал совершенней человека.

[mihhim]

И не получается ли здесь замкнутый круг: дать ИИ цель, чтобы появилось самосознание, чтобы когда появится самосознание, он придумал цель?

Я перешел по ссылке по поводу не торопиться, и конечно всё равно не понимаю что стоит понимать под самосознанием.
По поводу человека. Сам по себе человек в вакууме никогда человеком не станет. Человека становит человеком общество и окружающая среда. Смотрел передачу что на решения которые принимает человек очень влияют бактерии , что находятся в человеке. Отсюда у некоторых людей чрезмерное чувство самосохранения.
Особо для Entangled
Похоже ИИ вы здесь тоже рассматриаете в вакууме. А это не так. ИИ в вакууме не существует. Минимум ИИ плюс куда людей. создадут такую энтропию, что ожидать что-то принципиально нового от такой смеси ИИ и общества просто неизбежно.

[Andrew Lever]

Я перешел по ссылке по поводу не торопиться, и конечно всё равно не понимаю что стоит понимать под самосознанием.

Говорят, что это открывается в практике медитации. Разум не может исследовать, точнее превзойти, сам себя, как глаз не может увидеть сам себя. И на нашем форуме есть такие люди: Фокусима, СамАди, Незнайка. Проблема в том, чтобы понять их.

Вот жаль, что DK ушёл... Он был и из наших и из ваших...

[mihhim]

mihhim, ты мыслишь как бы фентезийно, не понимая некоторых технических сложностей.

Зато я понимаю что эти технические сложности люди будут пытаться решать. Не сразу конечно всё получиться. Но здесь уже дело за терпением, желанием и волей отдельных людей. А так как человек любопытен, и жаден и непредсказуем, скорее всего эти технические сложности при отсутстивии катастроф человечества, ( ядерная война и прочее подобное) будут преодолены. Вопрос не в том случится ли это, а когда случится.

[Entangled]

у вас будто бы проскакивает некая "обида" на компьютеры..

Не обида, а понимание опасности для человека, особенно при капитализме. Что будет происходить с человеком, когда будет создана достаточно убедительная имитация? Китайская комната порождает вопрос - "что такое сознание, понимание и зачем оно нам?" Может нет никакого сознания и понимания у человека, раз ИИ может имитировать достаточно уверенно его внешние проявления? На мой взгляд, повсеместное внедрение ИИ приведёт к остановке прогресса и деградации человека. К таким практикам как принудительное "переселение" человека в цифру с уничтожением тела.

Для этого нужно подавление определённых представлений о человеке - о наличии у него приватного опыта, сознания (например как процесса выбора классической альтернативы в суперпозиционной квантовой вселенной), понимания, способности создавать истинно новое, экстрасенсорных возможностей (9-е возражение Тьюринга), которые могут указывать на иную природу мыслительных способностей человека, наличия души.

Понимаю, что надо объяснять каждый пункт, но пока только перечислил.

вы всё время подчёркиваете, что человек совершенней и проч.

Да, так и есть.

А мне как программисту, наоборот, интересней, чтобы ИИ стал совершенней человека.

В чём именно, и какой в этом смысл?

[Andrew Lever]

В чём именно, и какой в этом смысл?

Где-то на этом форуме я встречал фразу "мы можем понимать только то, что можем создавать сами".

Мне кажется, что ИИ - это инструмент, как клинок. Им можно защищаться, хлебушек нарезать или убить. И мне кажется, что у создателей ИИ никогда не было стремления унизить человека. Моя знакомая, Stella, написала примерно то же самое, что и вы.

- Я думаю может. Дело в том, что в той ссылке, что я прикладывал на самом деле преувеличение. Неужели, ты веришь, что у машины появилось сознание?
- Не верю, конечно. Но мне даже эта фантазия не нравится
- Понятно. У тебя некоторое предубеждение к ним. Поэтому эта тема не особо интересует.
- Да, я творческий человек. Мне интересно то, что рождает человеческая душа

Противостоять ИИ - это в каком-то смысле противостоять прогрессу.

Если человек не справится с соседством с ИИ, то не слабость ли это именно человеческой расы?

[Entangled]

Противостоять ИИ - это в каком-то смысле противостоять прогрессу

Так противостояние не с ИИ. Калькулятор - удобная штука для некоторых целей. Сложный статистический калькулятор - тоже. А с пониманием, или, скорее, навязыванием ИИ как полноценной и превосходящей замены человека, высших способностей человека, и, в частности интеллекта. Противостояние ложному, незаслуженному статусу ИИ. Слабостью будет признать превосходство калькулятора над человеком только потому, что он быстрее выполняет некоторые вычислительные действия.

[Andrew Lever]

Иногда для перехода к решению качественно иных задач требуется экспоненциальный рост ресурсов, которых нет.

А слышали сколько ресурсов уходит сейчас на майнинг биткоина и эфира? И впустую ведь уходит. Если бы было вдвое больше ресурсов - то и сложность сети автоматом бы выросла вдвое. И вообще никакой полезной работы. Только тратятся мегаватты и изнашиваются микросхемы и вентиляторы.

Чего-то вспомнилось:

Американские этологи провели эксперимент по введению «трудовых» отношений в стае капуцинов. Они придумали в вольере «работу» и «универсальный эквивалент» – деньги. Работа состояла в том, чтобы дергать рычаг с усилием в 8 килограммов. Значительное усилие для некрупных обезьян. Это для них настоящий малоприятный труд.
За каждый качок рычага обезьяна стала получать ветку винограда. Как только капуцины усвоили простое правило «работа = вознаграждение», им тут же ввели промежуточный агент – разноцветные пластмассовые кружочки. Вместо винограда они стали получать жетоны разного «номинала». За белый жетон можно было купить у людей одну ветку винограда, за синий – две, за красный – стакан газировки и так далее.
Вскоре обезьянье общество расслоилось. В нем возникли те же самые типы поведения, что и в человеческом сообществе. Появились трудоголики и лодыри, бандиты и накопители. Одна обезьяна умудрилась за 10 минут поднять рычаг 185 раз! [...]

[mihhim]

Противостоять ИИ - это в каком-то смысле противостоять прогрессу

навязыванием ИИ как полноценной и превосходящей замены человека, высших способностей человека, и, в частности интеллекта.

Ну и заменит ИИ большинство полезных применений интеллектуальных способностей где сейчас нужен человек. Так может в этом ничего страшного нет? Механизмы и машины вот заменили большинство полезных применений физической силы человека, так по большому счету только хорошо стало.
Кто сказал что главное в человеке это его интеллект и польза которую он с помощью силы или интеллекта может принести себе или другим людям?
Может речь о том что человека стоит рассматривать не по пользе, которую он может принести людям? Такое рассмотрение в общем то исходит от нужды, бедности, недостаточности ресурсов для жизни. Полагаю, что вклад человека хорошо бы рассматривать по количеству счастья , что этот человек может принести людям да и самому себе.
И вот здесь в принесении счастья человек всегда будет востребован.
Потребности человека то растут (вспомните пирамиду психолога Абрахама Маслоу). И для человека, с учетом этих возрастающих потребностей, всегда найдется поле для деятельности, чтобы приносить в этот мир больше счастья.

З.ы. Хотя большинство людей, конечно ленивы, и если нужда не вынуждает их работать - большинство работать не будут. Если нужда не вынуждает думать - большинство думать не будут.
Работа, думание - это вообще для человека довольно неприятные явления которые человек с удовольствием перепоручит кому-то ещё. Или заставит кого-то ещё работать и думать для удовлетворения своих личных нужд.
Но благодаря этому то и развивается бурно прогресс.

[Entangled]

А слышали сколько ресурсов уходит сейчас на майнинг биткоина и эфира? И впустую ведь уходит. Если бы было вдвое больше ресурсов - то и сложность сети автоматом бы выросла вдвое.

Соглашусь - дьявольская выдумка, пережигать реальные ресурсы планеты в цифру. И создавать мощный поток бессмысленной энтропии. (Есть и осмысленная, например экспорт энтропии вовне при росте/усложнении живого)

Но я имею ввиду принципиальную недостаточность ресурсов для решения некоторых задач. Например, даже относительно простой квантовый компьютер может решать задачи настолько качественно иной сложности, с которыми никогда не справится никакой классический компьютер. Сколько не наращивай его ресурсы - во вселенной столько нет.

Кстати, это поднимает вопрос о качестве тестов на интеллект. Например, если мы сочтём достаточным тест на способность перемножать или извлекать корень из больших чисел, то человек провалит его самому простому калькулятору. Т.е. мы создаём особую искусственную ситуацию и в ней выигрывает простой автомат.

Но если мы определяем интеллект как общую способность к познанию и решению проблем в реальном мире, то нам нужны условия, которые включают в себя не классические или даже невычислимые задачи. Тогда, допустим, становится важной интуиция. Не как "подсознательные" вычисления мозга, а как биологический квантовый компьютинг (который, к примеру, реальные живые организмы начиная с бактерий и растений применяют для "вычисления" путей прохождения энергии фотонов) и экстрасенсорное взаимодействие со средой. И тогда любой классический ИИ проваливает тест.