Cyberdyne Systems

[Andrew Lever]

Ведём речь про нейросети.

phpBB [video]

[DK]

У программы нет осознания себя.

Ну начнем с того что и самой программы нет.

Пока мы её не напишем.

Ровно то же и с "осознанием машиной себя" - его нет пока мы не сочтем нужным его сделать. А сделать его впринципе смысл есть т.к. это действительно дает машине автономность и самостоятельность - то есть нужно меньше отдавать ей приказов, бОльше оставлять ей действовать на свое усмотрение - что без сомнений удобно. И вот здесь важно именно не потерять контроль над машиной на каком-то этапе. Нужен некий баланс между контролем над машиной и её разумной степенью самостоятельности.

Примерно так же как удобно если газонокосилка сама решит как подстричь траву вокруг дома и сделает это без лишнего отвлечения нашего внимания на это. Но будет плохо если та же газонокосилка начнет подстригать то чего ей подстригать не следует - например цветы соседа, а заодно его собаку То есть она должна подстригать то что нам нужно, но при этом должна быть достаточно самостоятельной чтобы не отвлекать нас на подробное давание указаний ей.

Для начала хоть бы написали оптимизатор выполняемого кода по типу колмогоровского сжатия.
Программа выполняется и постепенно сама таким образом переписывает свой код, чтобы выполняться как можно быстрее, но не теряя в функционале ни на йоту.
СлабО?
Так о каком осознании себя вы вообще заикаетесь-то?

Насчет того чтобы программа сама переписала себя и сделала лучшую версию себя - на мой взгляд такая постановка вопроса не вполне адекватна. В принципе программа может автоматически улучшаться. Но для этого нужен процесс наподобие эволюции - а это очень долго. То есть такое чтобы ИИ вдруг создал супер улучшенную версию себя - очень вряд ли. Но человек в принципе может заложить в систему очень мощные предпосылки для её самоорганизации. Но в только в тех рамках в которых человек сможет это заложить в машину. Это требует очень глубокой работы мысли. А так чтобы машина вообще полностью сама улучшилась до супер ИИ из тупо и примитивно написанного кода - это даже не из области научной фантастики.

Не бывает ничего из ничего. Чтобы что-то возникло нужно приложить потенциал эквивалентный тому что должно возникнуть. Не может материя спонтанно самоорганизоваться до уровня разумной системы в сжатые сроки и без приложения к этому мощного ментального потенциала извне. Жизнь на Земле тоже возникла не без приложения ментального потенциала извне. И то эволюция заняла миллионы лет.

ИИ созданный человеком конечно превзойдет человека по многим параметрам. Примерно как трактор сильно превосходит человека по способности копать. Но это не значит что ИИ будет более разумным. Он лишь будет более мощным, по некоторым определенным характеристикам. Он будет переигрывать человека в шахматы и во все остальные известные игры, он будет лучше управлять производственными процессами, экономикой, будет лучше любого врача разбираться в болезнях людей и лечить их, лучше любого психолога разбираться в психологии человека и заменит работу психоаналитиков. Но тем не менее он сохранит некоторые непреодолимые свойства тупой железяки, будет обладать определенными ограничениями которых нет у человека. ИИ точно не будет обладать живым сознанием, хотя может в какой-то степени достаточно успешно имитировать поведение живого осознающего существа.

Вообще рассматривать ИИ как альтернативу человеческому разуму - это вообще не верная постановка вопроса. ИИ нужно рассматривать как новую дополнительную оболочку поверх сознания человека. Так же как физическое тело и физический мозг в свое время стал дополнительной оболочкой для живой души. И в дальнейшем будет идти эволюция именно этого симбиоза - дух-душа-тело-машина.

ИИ нужно рассматривать как новую мощную оболочку для сознания человека. ИИ не сможет полностью быть самоосознающим, но он сможет стать тем во что сможет "вселиться" живое сознание человека, примерно как душа вселена в тело. То есть ИИ будет в определенной мере самостоятельной и автономной системой но в то же время управляемой со стороны человеческого сознания.

Например - если это автомобиль с ИИ наподобие тех что выпускают Тесла - этот автомобиль будет сам выбирать как двигаться по трассе, реагировать на дорожные события - например затормозить перед внезапно выскочившим на дорогу котенком, причем затормозить с реакцией запредельной по сравнению с человеческой. Но тем не менее этот автомобиль не будет сам решать куда и зачем ему нужно ехать. Управлять этим будет намерение человека. Даже не команды и не органы управления типа руля и педалей а просто человеку достаточно будет иметь желание попасть туда-то и туда-то или сделать те или иные дела - машина автоматически отреагирует на смутные намерения человека и воплотит их в четко реализованные действия. То есть машина станет продолжением человека и человек будет ощущать машину почти как себя - машина будет реагировать на еле уловимые намерения человека так же чутко как наше тело реагирует на наши нами же самими не осознаваемые импульсы. Например наши ноги идут по дороге только потому что у нас есть намерение куда-то прийти. Наши ноги могут пнуть что-то лежащее на земле, повинуясь нашим импульсам, но при этом мы не управляем на уровне нашего сознания сокращением каждой мышцы - эта работа происходит в значительной мере автономно и независимо от нашего сознания. Наша моторика обладает собственным самообучающимся интеллектом - мы начинаем лучше выполнять действия которые делаем много раз - наша моторика сама обучается. Это происходит помимо нашего осознания. Но тем не мене это управляется нашей волей и нашим намерением. Ровно так же будет взаимодействовать человек и с машиной - машина будет обладать мощным самостоятельным интеллектом который будет обучаться и подстраиваться под "почерк" мысли своего хозяина и будет реагировать на импульсы хозяина с такой чуткостью и точностью как если бы это было его собственное тело. Причем тело имеющее характеристики и способности многократно превосходящие характеристики человеческого тела. И внешне такой разгуливающий по улице киборг будет выглядеть вполне себе живым и сознательным. И тем не менее - это будет лишь продолжением сознания человека.

Говоря "киборг" я утрирую. Нет смысла кромсать человека на куски и запихивать в машину. Машиной можно управлять и удаленно, не подвергая никаким хирургическим операциям ни одного человека. Пользоваться "кибер-телом" будет примерно так же как мы сейчас пользуемся автомобилем - хочешь сел в него и ездишь, хочешь вылез из него, хочешь сел в другое тело, другой модели. Например на работе человек будет "вселяться" в "многорукое тело конвейер" а после работы в тело для вечеринок, имеющее красивую внешность и пропорции - типа молодого Шварцнэггера Хотя оператор управляющий им будет каким нибудь жирным прыщавым [тяв] Или дряхлым стариком .

Нет нужды подвергать человека жестокой операции физического приковывания к машине типа как это показывают в кино - типа высунуть из тела мозги и прикрутить болтами внутрь машины Этот садизм абсолютно ни к чему.

[Владимир Есаков]

Интересно было прочесть развернутыми собственные размышления. Сам бы я написал, и гдето уже писал о ИИ кратко, и по сути следующее, ИИ это продолжение тела человека. Например расчетной, вычислительной его части
Спасибо, Дмитрий, рад снова вникать в твои мысли здесь на форуме.
Мне в теме интересно озвучить следущую мысль.
Ответственность.
Человек, его разум, может обнаружить себя в поступке недостойным продолжения жизни среди людей. Недостойным Мира человек.
И. Самоуничтожиться в каком либо из своих представителей. Самоприговор смертный осуществить. (Например, признание предательства, трусости в бою.)
Сможет ли программа, признать поступок совершенной её средствами аморальным.
Осудить пользователя, или програмиста, заказчика.
Заложат ли в её установки мораль?
Доверит ли мораль программе, безответному пока явлению. Ведь доверив её програмный комплекс наделенный, материально автономными свойствами воспроизведения, человек делегирует своё сокровенное ... Кому?
Машине?
Нет, уже равному себе.
Готов ли человек отдать, поделиться правами с пока не равным себе предметом.
Готов ли полюбить вещь как себя самого. Отдать свою жизнь машине. Отдать, в смысле поделиться. И в дальнейшем делить судьбу с ней как с равной?
Такие человеколюьивые мысли у людей, знаю есть.
Я не готов.

[Мааткара]

бОльше оставлять ей действовать на свое усмотрение - что без сомнений удобно.

Это само УСМОТРЕНИЕ -нужно будет так же прописывать, на основе каких данных из анализа ей будет пора стричь траву)))Так что никакого ..самоосознания тут нет.
Самосознанием будет то состояние аппарата мышления, когда машина поймёт -что она машина, кем создана, для каких целей, в чем ее задачи, преимущество и недостатки относительно *оппонента , т.е подобного существа, например человека...
Но даже и это не сделает ее свободной, потому что есть код, на основе которого строиться ее легенда /машина, созданная для чего то то, тем то и т.д/
Самообучение -та же программа.
Если сделать алгоритм действий ..не повторяющимся, а каждый раз разным -что это даст?

phpBB [video]

phpBB [video]

Фильмы про машины
Мир Дикого Запада
Морган
МАшина
Ева
Искусственный разум
..
дополните

[Мааткара]

Но для этого нужен процесс наподобие эволюции - а это очень долго. То есть такое чтобы ИИ вдруг создал супер улучшенную версию себя - очень вряд ли. Но человек в принципе может заложить в систему очень мощные предпосылки для её самоорганизации.

Чтобы ИИ создать версию лучше себя -нужна будет инфа, которую она может взять конечно же...и ускорить тот самый процесс эволюции =это похоже на человеческую эволюцию, по крайней мере, как ее подают нам...
Но можно проще и быстрее -взять...и изменить легенду....хорошо, перечень легенд машина может сама заложить, определить алгоритм выбора..и так до бесконечности)))А если сбой произойдет? )))) Да, есть бекапы /которые тоже делает программа/и т.д.........я не вижу, что же сделает Машину- Человеком?
Принято утверждать -чувства...а что есть -Чувства?...........

[Andrew Lever]

Спасибо, Дмитрий, рад снова вникать в твои мысли здесь на форуме.

Уточню только, что это не Дмитрий, а его, скажем, "голограмма". Дмитрий DK сюда не возвращался, и вряд ли вернётся.

[Andrew Lever]

дополните

Стелс.

[DK]

Кстати о нейросетях. Я кажется имел "счастье" наблюдать сбой в работе собственных нейросетей. Вышло так что я заболел - инфекция. И я пережил в связи с этим несколько жутких дней. Не хочу вспоминать подробности. Кратко - то ли под действием истощения организма во время борьбы с инфекцией то ли под действием препаратов, но в общем я имел такой опыт - у меня нарушилось зрительное восприятие. Суть нарушения была в следующем - перед мысленным взглядом постоянно возникали образы. Всё бы ничего но я не мог никуда от этого спрятаться - даже закрыв глаза. Поскольку процесс происходил похоже в мозгу, не зависимо от того что видят глаза. И проблема была в том что эти образы представляли из себя самый жуткий трэш какой специально вообразить вообще невозможно. Что бы я ни пытался представить - травку на лугу или еще хоть что нибудь приятное - вместо этого перед глазами представало нечто совершенно жуткое и фантасмагоричное. Я не мог представить что либо приятное и позитивное, а только без конца наблюдал этот жутчайший трэш. И это длилось целую ночь. Так вот то что я наблюдал - очень похоже на то что было приведено в данном ролике - там где повсюду морды собак. И еще на фильм сценарий которого придумала нейросеть. Только гораздо-гораздо хуже и ужасней. Что-то типа этого (только хуже):

https://www.youtube.com/watch?time_cont ... bY4c9aqUqs

И вот представьте видеть подобное целую ночь без возможности как-то избавиться от этих видений. Я за три дня похудел на 5 кг. Единственный позитивный образ который я мог удерживать в воображении и как-то абстрагироваться (очень частично) от этих видений - образ Иисуса Христа. Это буквально было единственным спасением - я много часов подряд пытался представлять образ Иисуса Христа чтобы как-то перебить эти видения и непрерывно читал отче наш - несколько часов. Не имея возможности уснуть ни на минуту. Это было просто ужасно.

Ну в общем я это рассказал к тому что наши нейросети тоже могут генерировать подобную хрень. И выглядит очень подобно на то что показано в этих роликах. То есть похоже механизмы в компьютерных и человеческих нейросетях действительно схожи. Правда это трудно назвать интеллектом. Это скорей похоже на нарушение его работы.

[DK]

И кстати это показательный пример что нейросети могут генерировать очень деструктивные вещи, если в них происходит сбой. И если вот такая хрень выйдет из под контроля - газонокосилка которая скосила цветочки соседа и его собаку окажется лишь самым безобидным примером того что может быть. Поэтому очень важно делать ИИ подчиненным чему либо прекрасному. Да и в своих мыслях лучше стараться представлять только прекрасное, потому что ужасное порожденное нами может оказаться действительно ужасным. Более ужасным чем мы можем себе представить. Лучше подчинять технологии доброму.

[Andrew Lever]

дополните

Апгрейд
Превосходство (про переселение Сознания в машину)

[Andrew Lever]

Zoe, 2018

Зои и Коул – ученые будущего, которые разрабатывают идеальных романтических партнеров - синтетиков. Их цель - избавить людей от одиночества и неразделенной любви. Но чем дальше они продвигаются в своих экспериментах, тем сомнительнее выглядят результаты их работы…