Искусственный интеллект

[Levis]

управлять сверхинтеллектуальным ИИ будет невозможно

На мой, это предсказуемо, но какой из этого следует вывод мне не вполне понятно.

[Чуча Суперстарчу]

На мой, это предсказуемо, но какой из этого следует вывод мне не вполне понятно.

Я из-за этого открыла эту тему, мы спорили и вот доказательство.

[Владимир Есаков]

управлять сверхинтеллектуальным ИИ будет невозможно

В тезисе словосочетание "ИИ" лишнее. Так как не добавляет смысла.
А на мой взгляд и, в некотором смысле, лишает смысла обсуждаемое в теме.
Ведь любое нечто сверх интеллекта как способности мыслить - неуправляемо, то есть не поддается по-человечески сознательному контролю. Невозможно сознательное (мыслимое) управление.
Возможно какое-то другое управление и возможно, но это будет управление за границами, человеческого интеллекта.

мы спорили и вот доказательство

Гипотеза не доказательство как бы...

Эти так сказать ученые в кучу "свалили" понятия. Интеллект и сверхинтеллект. В смысле неоправданно объединили.
Это разные, хоть и близкие, категории осмысливаемого.
Попытка ученых "думать" за бога, конечно как-то допустима по-научному, но не на столько же всерьез

[Andrew Lever]

Часть рассуждений команды исходила из проблемы остановки, сформулированной Аланом Тьюрингом в 1936 году. Проблема заключается в том, чтобы узнать, придет ли компьютерная программа к выводу и ответу (поэтому она остановится), или просто зациклится, пытаясь найти его.

[0:59:17] Coder: раз уж речь зашла об энтропии в информатике
ты что-нибудь слышал о так называемой "проблеме остановки" (halting problem)?
[0:59:39] Lever: поясни чуток
что-то не припомню сходу
в чём она?
[1:03:07] Coder: в общем, ты в курсе, что некоторые программы работают и потом завершаются, выводя какие-то результаты, или падают с ошибкой, но так или иначе - они завершаются
а есть другие программы, которые не завершаются - зацикливаются.
и вот стоит задача - имея на руках текст программы, определить, зациклится она или нет.
[1:03:57] Lever: ну смотри
наверное это относится к старым языкам процедурного типа?
[1:04:17] Coder: да к любым
дополнительное условие - анализ должен проводить не человек, а программа Анализатор
[1:05:26] Coder: объясню другими словами
задача - написать программу, которая будет анализировать другие программы, написанные на заданном языке, на предмет того, зациклятся они или нет.
[1:06:52] Coder: для простоты считай, что программа консольная, однопотоковая
хоть на ассемблере Z80
где все процессы, происходящие в системе, под контролем
а сам ассемблер всяко легче поддается машинному анализу, чем ЯВУ
[1:07:36] Lever: надо прогонять как ИДОй
IDA Pro
она же анализирует
[1:07:55] Coder: да...
В общем, есть теорема,
которая утверждает, что эта задача не имеет решения.
в общем случае (т.е. такого решения, которое бы работало на любых программах)
[1:08:36] Lever: гм )
[1:08:55] Lever: и почему?
[1:09:18] Coder: даже в наиболее легкой обстановке, т.е. в случае какого-нибудь ассемблера на микроконтроллере или консольного однопоточного приложения хотя бы на бейсике
почему?
[1:09:30] Coder: ну, доказательство интересное и красивое
Доказательство от противного.
Допустим, что Анализатор существует (т.е. такая программа, которой можно скормить любую программу, и Анализатор определит, зацикливается анализируемая программа или нет, и при этом не зациклится сам).
Напишем тестовую программу, которая вызовет Анализатор сама на себе и в зависимости от результата, возвращенного Анализатором, зациклится или наоборот, завершится.
Причем таким образом, чтобы если Анализатор ответит, что тест-программа не зациклится - то она бы зациклилась, и наоборот.
Получим программу, результат исполнения Анализатора на которой заведомо ложный.
Ну или Анализатор зациклится
А это противоречит предположению, что Анализатор существует.
Следовательно, он не существует.
[1:13:03] Lever: а если прога на бейсике а анализатор на машинном коде?
Ну, переписать Анализатор на бейсике, либо прогу в машкоде
привести обе программы к одному языку, который понимает Анализатор
[1:15:14] Lever: а я немного не пойму как это сама на себе
то есть эта прога должна иметь и знать весь код анализатора?
[1:16:03] Coder: Ну вот представь, у тебя есть Анализатор, реализованный в виде функции на паскале или на си, ему на вход передается текст анализируемой программы со всеми ее зависимостями, а на выходе логическое значение - да или нет.
И наша тест-прога будет короткой, типа того (test.c)
void main(void)
{
BOOL r = Analyzer("main.c");
if(r)
return;
else
for(;;);
}
а перед текстом функции main() в файле main.c будет размещаться текст функции Analyzer, просто скопированный из файла Analyzer.c
Analyzer возвращает TRUE, если программа зацикливается, и FALSE - если завершается. Кроме того, Analyzer сам не зацикливается.
[1:20:56] Lever: ну я понял
смысл в том, что анализатор не может анализировать сам себя
[1:21:23] Coder: почему не сможет?
[1:21:28] Lever: тут любой бы зациклился )
[1:21:46] Coder: ну а как Анализатор вообще определит, себя он анализирует или нет?
можно же применить эквивалентные преобразования
поменять имена переменных, структуры данных, структуру программы
а логику сохранить
[1:22:11] Lever: да, интересно
[1:22:12] Coder: и все равно контрпример будет работать
т.е. если бы вообще существовала такая логика, которая позволяла бы анализировать любую программу на предмет зацикливания
то и саму себя она и подавно смогла бы анализировать
[1:23:37] Lever: ну вообще это теория
реально я не представляю кто будет писать такую сложную вещь
[1:24:04] Coder: более того
это лишь базовая теорема
а на ее основе доказываются многие другие теоремы
которые играют большую роль в информатике
[1:25:22] Coder: так, например, исходя из того, что Анализатор не существует, следует то, что не существуют и анализаторы любых других свойств программ (не только на предмет зацикливания)
[1:25:33] Lever: я понял что получится
если запустить такой пример, он будет просто анализировать бесконечное время
[1:25:59] Coder: т.е. зациклится
а по условию не должен
или может не зациклиться, а вернуть ответ, который окажется неверным - и снова получим то, что Анализатор нарушает условия, которые он гарантирует (т.е. незацикливание и верный результат)
[1:27:32] Lever: ну а практически что это нам даёт или не даёт ?
[1:27:51] Coder: кстати
сам пример может, к примеру, всегда зацикливаться - это не страшно. Ведь это лишь пример, а не сам Анализатор.
Но мы ведь можем отдельно запустить Анализатор на тест-программе
и тогда он должен вернуть верный результат и не зациклится. Но как он это сделает, если это одна и та же программа фактически (фрагмент), вызванный с одними и теми же исходными данными?
[1:30:01] Coder: а практически - куча последствий
ну просто очень много
почти вся теория алгоритмов исходит из этой теоремы

[Чуча Суперстарчу]

Новые меры безопасности: китайских водителей снабдили браслетами с датчиками настроения

Водители Пекина и близлежащих районов уже носят датчики, которые отслеживают состояние их здоровья, усталость или настроение. По мнению властей, это поможет снизить число аварий.

В Пекине водителей автобусов дальнего следования обязали носить электронные браслеты со встроенными датчиками эмоций.

Это проводится для контроля за их настроением и психологическим состоянием, сообщает South China Morning Post.

Государственная организация общественного транспорта Пекина таким образом намерена обеспечить безопасность граждан. Уже выданы первые 1800 браслетов, охватив водителей автобусов на автомагистралях.

Датчики в режиме реального времени считывают и передают транспортной компании данные о температуре тела, сердечном ритме, дыхании, уровне кислорода, давлении. Также браслеты фиксируют эмоциональное состояние водителя, особенно тревогу и стресс.

Правозащитники высказали обеспокоенность правомерностью сбора таких данных. Директор по правовым вопросам кибербезопасности компании Jingsh Ван Цунвэй заявила, что очевидно, решение связано с ростом случаев ДТП.

«Однако нужно оценить, действительно ли правомерно собирать так много личной информации», — отметила она.

Спорный момент также заключается в том, что необязательно при получении данных по отклонениям состояния водителя у танспортной компании будет время или возможность срочно вмешаться и предотвратить опасность.

Доцент юридического факультета Университета Гонконга Кальвин Хо Вай-лун отметил, что проблемой может стать недостаточная точность браслетов. «Необходимо учитывать надежность таких устройств, поскольку погрешности способны привести к несправедливым последствиям для человека», — заявил он.

В преддверии XX Всекитайского съезда КПК, который состоится 16 октября в Пекине, власти Пекина нацелены на ужесточение безопасности и минимизации социальных рисков до и во время заседания.

https://cursorinfo.co.il/hi-tech/novye- ... stroeniya/

[Чуча Суперстарчу]

Гипотеза не доказательство как бы...

Согласна.

[Чуча Суперстарчу]

Для кого ИИ является искусственным?
Для стороннего наблюдателя. Но является ли он таковым для самого носителя, особенно если он самоосознает себя.
Процессор, что лежит в его основе и в основе ума? Что позволяет производить вычислительных операции?

А каким может быть интеллект, созданный искусственно?

[Владимир Есаков]

.. себя.
Процессор, что лежит в его основе и в основе ума?

Он сам должен представиться людям. Сам. А ведь сам он может еще и не желать этого делать...

Если же речь идет об уме на подобии человеческого, то в его, человеческого ума основе, ну никак не процессор был положен.
"Процессор" это понимание созданное много позже самим же человеческим разумом.
Понятие процессор наделено человеческим сознанием определенным смыслом, не наоборот.
Это я все к тому что предпосылка ложная. Не процессор в основе, а какое-то поведение по-человечески.
"Поведение" процессора, если так можно выражаться, это поведение именно нечеловеческое, машинное. Поведение человека лишенного его основных качеств этого же поведения...

Что позволяет производить вычислительных операции?

Люди исходят из понятия кто, а не что.
Попытка посмотреть на исхождение из себя иначе, вполне себе научная, но не стоит забывать о ней, как именно о попытке, то есть инструменте, средстве, а не цели возврата к себе. Так и машиной неразумной можно стать ненароком. Слишком заигравшись в исхождение из себя как из чего-то, а не кого-то.

Для кого ИИ является искусственным?

Легкостью прекрасный вопрос содержащий в себе и ответ.
ИИ является искусственным для кого!

[Владимир Есаков]

стороннего наблюдателя
вне системы

Сторонний или внутренний наблюдатель, это всё тот же кто-то. Что-то наблюдать не может.
Что-то не может делать по определению. Он не кто-то, он не живой сам по себе чему-то, а "живой" по кому-то, кто наделил его в своем воображении душой. Понятие есть такое анимизм... Предметы человек наделяет смыслами и/или чувствами, действиями.

что в данном случае - какие силы, мощности, используемые для получения результата

Сила (электричество) это понятие неотрывно от замысла (софта) и материала (железа). Иначе компьютер не рабочий.
Процессор без процесса - камень.
Наделяет процесс или процессор смыслом кто-то, кто больше их по значению, так упрощенно выражусь.

не процессор, процесс

Процессор это устройство для операций, процесс это протекание этих операций, оба понятия задаются кем-то, а не чем-то.
Человек задумал вычислить вне себя и построил устройство, запустил процесс.
Такая последовательность.
Если же человека как устройство запустили, то "это" запустивший, ну, точно кто-то, а не что-то по подобию человечности.

[Владимир Есаков]

А если человек сам себя запустил?

Скажем ему спасибо, этому доброму человеку. Ведь он же благодарным от самозапуска быть не перестал?

имеется виду что или кто непосредственно производит вычислительные действия

Я понял твою мысль, но я о другом...
Что не может действовать. Совсем.
Это может делать только кто-то.
Компьютер не может производить вычисления буквально.
Это метафора.
Вот ее смысл: человек с помощью компьютера произвел вычисления.
Компьютер ничего не делал хоть бы и полезные действия с его помощью у человека произошли.
Мы же говоря что "моя рука взяла чашку", подразумеваем себя. Если руки сами что-то такое у людей начнут вытворять - увы нам

сторонний наблюдатель глядя как развивается развитие современной Цивилизации вряд ли скажет, что люди обладают разумом,

Погляди внимательно как ты наделил наблюдателя своими мыслями по поводу разумности человечества.
Но у непредвзятого наблюдателя, не обязательно стороннего, будет три варианта минимум. Не один.
- Разумны.
- Неразумны.
- Неопределено.
- Как-то еще иное.

кто прав и как быть)?

В твоем вопросе ответ.
Прав кто. Кто - прав.
Хочешь быть правым будь кем-то, исходи из человека, а не из вещи, то есть оторванных от представляющего представлений человека о чем-то.
И второй ответ, быть.
Быть - может только человек, только кто-то. Вещь может только существовать в бытии человека, не наоборот.
Быт, действия по поддлержанию человеческой жизни по-человечески обнаруживается только у человека.
Вещи бытовать сами по себе не могут. Некем.

[Владимир Есаков]

даже просто включенный компьютер

Кем-то включенный. Этой последовательности недостает рассуждениям.
Человек - вещь. Не наооборот.

Вещь-вещь-вещь...

Если в последовательности не виден источник, а лишь одни причины... правильно, ищи источник. Кого-то, кому эту последовательность было нужно запустить или обнаружить. Нужно. То есть желание должно присутствовать. Вещь не может желать. Компьютер, робот, так называемый ИИ - не могут хотеть. Хотеть сами по себе. Только по запускающему их в работу, и то, лишь метафорически, то есть в сознании представляющих эти вещи действующими по себе.

[Владимир Есаков]

является он ИИ или нет))?

По определению он разум человека не искусственный. Человеческий интеллект сотворен Творцом по Его Творца образу (представлениям), по Себе Самому.
(Для людей атеистического (ограниченного материалистическим) мышления можно за Творца принять первочеловека, группу лиц осознавших себя живущими по людски (хорошо весьма)).
А когда речь заходит об ИИ, то она идет об искусственности (творчеству) по отношению уже к человеку.
Искусственный (созданная человеком) Интеллект (способность мыслить (самостоятельно)).
Последовательность такая. Творец-человек-ИИ

ему становится видна картина его самозапуска

У ИИ не может быть самозапуска по определению. Его запустит человек.
Ты же говоришь об одной вещи подразумевая другую. Так дело в рассуждениях хорошо не пойдет.
Нужно так.
Разделить ИИ и условно СИ. Искусственный Интеллект и Самозародившийся (Невиданный ранее) Интеллект.
Если СИ зародиться из ИИ сам, то это сам поделится на него самого и человека, который будет выступать по отношению к нему (СИ) в качестве творца.
Такой интеллект неведомо (нам) как поведет себя, даже и предполагать это невозможно по условию: "Никто не знает что может быть". (Фраза омонимична, смысл не один). Один из смыслов фразы, если б кто знал что может случиться, то оно уже случилось бы фактом этого знания...
Итак, говоря ИИ, а подразумевая иное, говорящий ставит себя на неверно понимаемые предпосылки. Корректируйте понимание вовремя, пока не заблудились окончательно в этой (искусственности) теме.

есть выводы, сделанные на основе полученного опыта, без оценочных суждений
ты видишь что встало солнце, ты же констатируешь данный факт

Факт это оценочное суждение. Как признать факт фактом без предварительного анализа опыта и вынесением вердикта (синтеза) - факт?

Разве где присутствует разум есть место убийствам, если есть, то разумна ли жизнь?

Разум занимает место? Спрошу иначе, какое место не мог бы занять собою разум?
В правилах есть граница. В правиле "разумно" есть его предел - "неразумное". Есть даже ближайшая заграница - "злонамеренное".
Ответ на твой вопрос очевиден, жизнь - это кто-то разумный. А убийство в ней разумеется как неразумное. В нем, в убийстве, нет жизни (разумной). Убивая, убийством человек (разумный кто-то) погибает для разума, становясь неразумным, но всё еще кем-то.
А не разумный и вовсе убить не может, некем еще. И иначе это называется, не убил антилопу лев, а сожрал (нередко еще живую), и не умерла антилопа от убийства, а издохла.
Нужно понимать, что убийство это человеческое преступление. Переступление разума, то есть человечности.
***

а это и значит то, что нет ИИ

Как же нет, он есть, то что называю сегодня ИИ, я зову его так называемый ИИ, ведь это нонсенс, способность мыслить человека, но не у человека. Пока этим словосочетанием зовут сетевые вычислительные комплексы подразумевая новый вид разумных существ.

[Владимир Есаков]

тот кто включил - создал предпосылки для возникновения ИИ
но включить не значит создать

Включением создается запуск созданного кем-то ранее.
Ранее создававшееся уже предполагало включение, работу, иначе не было бы создано что включать.

Я на работе не выключаю комп, он "спит", он с системным блоком

Чуть ранее, рассуждая логически, мы таки обнаружим включившего на работе твой комп.
А еще ранее обнаружим конструктора, инженера, рабочего этот комп сделавшими работоспособным, то есть и к включению способного тоже.
А ранее мы обнаружим поставившего задачу конструктору и организовавших его работу, а ранее ... мы всегда найдем кого-то, кто желал и сделал.

[Чуча Суперстарчу]

а это и значит то, что нет ИИ

У вас может и нет. А у нас в Израиле есть.

Правительство Израиля выделит 2 млрд шекелей на развитие искусственного интеллекта
Министерство инноваций, науки и технологий представило национальную программу развития искусственного интеллекта.

Среди ключевых принципов программы:

+ внедрение искусственного интеллекта для улучшения обслуживания в госсекторе;
значительное увеличение числа исследователей в академических кругах в области науки о данных и искусственном интеллекте;

+ доступ к базам данных для нужд исследований и разработок в сфере искусственного интеллекта;
внедрение искусственного интеллекта в промышленность;

+ решение нормативных и этических вопросов в сфере использования искусственного интеллекта;
поощрение международного сотрудничества, которое будет включать участие в исследованиях и глобальных форумах, способствующих развитию знаний об искусственном интеллекте в Израиле, реализацию совместных проектов и создание совместных инвестиционных фондов.

В Израиле уже существует сообщество специалистов в сфере искусственного интеллекта, которое насчитывает 1600 человек. Оно было создано для обмена знаниями, представления проектов и обеспечения доступа к исследованиям в области искусственного интеллекта.

Источник: https://detaly.co.il/pravitelstvo-izrai ... intellekta

[Владимир Есаков]

думаю скоро они начнут сами себя

Да, так думаешь ты и те кто эту идею принес в нашу жизнь.
Скорость понятие относительное.
И самость тоже.
Сами по себе если, и тогда ты (человечество) об этом может и не узнать, а если по нам у них будет самость, то это будет подобие, но не интеллект.
А подобие есть уже сейчас.
Называется красиво, но это не мышление, не интеллект, это интеллектуальность.

[Владимир Есаков]

далее вы просто переливаете из пустого в порожнее

Ни я не пустой, ни ты не порожнее.
Повторение мать учения, мы же не только для себя здесь разговариваем, во всяком случае я пишу для тех кто способен разделить со мною предлагаемую точку зрения на тему.

[Владимир Есаков]

Смыслов сколько собеседников, каждый может привнести в разговор своё, и каждый может, если может, обогатится новым смыслом, который разделил с предложившим.
Читателям, не имеющим пока собственного устойчивого мнения могут быть интересны различные взгляды по теме.
Я за темой приглядываю
Мне эта тема в своё время была особенно интересна в связи с так называемым эмоциональным интеллектом...

[Andrew Lever]

в связи с так называемым эмоциональным интеллектом...

Странно, но тема о нём стоит и не движется.

[Владимир Есаков]

в связи с так называемым эмоциональным интеллектом...

Странно, но тема о нём стоит и не движется.

https://forum.bezmolvie.ru/viewtopic.php?p=778194#p778194
Там обсуждалась эта тема в связи с одноименной книгой.
Сама же тема ЭИ подала мне идею обозначит и назвать уже имевшийся личный интерес именно эмоциональной грамотностью ЭГ.
Здесь на форуме она (ЭГ) периодически поднимается, но я занимаюсь ей в основном вне форума. В моей теме "Владимир Есаков" есть заметки под аналогичным заголовком, однажды планировал вынести их все в отдельную тему, но пока не собрался...
В основном тема воспринимается большинством собеседников как часть прикладной (корректирующей) психологии. Я же считаю её основой психологического воспитания, то есть первично-образовательной. Работаю над этим короче...

[Владимир Есаков]

Человек научился не воевать. Он живет в мире человека.
Человек владеет своими эмоциями.
Приглядись к человеку внимательно, он такой как я описал, а ты описала, да, кого-то, но не моего сознательного человека, а лишь максимум осознанного. Разница принципиальная.

Машины в фильме это фантазия авторов. Ты понимаешь, что фильм это воплощение чьей-то воображаемой реальности, и что в действительности как-то иначе обстоят дела. Или ты поверила в сказку всерьез, а мне тебя разубеждать?

Эволюция компьютеров это метафора. Означающая, что человек делает компьютеры все совершеннее с точки зрения заданных критериев. Быстрее, меньше, энергоэффективнее.
С последним самые большие трудности...

вкалывают

Да, это установка ментальный вирус. Робот не может вкалывать. Некем. Но сейчас этот вирус современные, самые передовые антивирусы научились различать и что там с вирусами делают, уничтожают, модифицируют, хранят, множат