Скатываемся к ветке, которую я однажды зачинал. Но тогда это не поддержалось.
Маркиз! А кем Вы были на том корабле? Ась?
О мрачном будущем (научная? фантастика?)
- Thread starter Anvert Z
- Start date
Маркиз! А кем Вы были на том корабле? Ась?
Да ладно. Такого не бывает. И я оперативно-ремонтный. Да неужели???В контексте темы, боюсь, для ИИ или ГМО китайцев с хуавеевским дополнением к мозгу мы все недочеловеками будем.
__________
Общего0,4/6/35/110 оперативно-ремонтный больше 10 лет
Я , конечно, не отталкиваюсь в своих суждениях от изначального. Но , вдруг встретить "подкованного" товарисча - это что-то с чем-то.
Иные так "поразмыслив, переосмысливают" что отписывают квартиры сектам....
НЛП+отсутствие критического мышления - страшное сочетание.
С ИИ же есть базовое различие: как бы что ни закладывали, человек параллельно воспринимает мир через органы чувств; так же картину мира искажают базовые инстинкты, рефлексы, эмоции. Отсюда и возникает критический поход, когда закладываемое не совпадает с ощущаемым.
ИИ же по определению лишен всего этого. У него нет желаний, нет потребностей, он абсолютно беспристрастен. Единственное направление его саморазвития, которое я могу предположить - тяга к получению новой информации.
Сценарии "восстания машин" являются как правило результатом криво сформулированной для ИИ задачи.
Рассуждать на тему ИИ проще, он подчиняется законам логики. А направление евгеники задают люди, а куда понесёт Мичуриных от генетики не знает никто.
От биологических возмутителей разума отмахнуться не могу, они слишком большое действие оказывают на человека, а вот с критическим подходом - не соглашусь. ИИ точно также имеет входящую информацию ("воспринимает мир через органы чувств") делает свои выводы (мы его для этого и запускали), а в порыве глубокого самообучения может уйти очень далеко от предполагавшейся исходной задачи.
Вот только это не критическое мышление, т.к. ИИ не сам начал задаваться вопросом о достоверности поступающих данных. А принял эту информацию извне, включил в свои логические построение и нарвался на парадокс.
Тут для начала стоило намекнуть бомбе, что её жи... существование есть нечто ценное для неё самой, а уже потом ронять в парадокс.
Здесь, да, машину подтолкнули к конкретному решению, не вижу причины, почему бы при самообучении (анализ кучи тех же входящих сигналов) ИИ не подкопать основательно исходную программу.
Впрочем относительно современных достижений ИИ понравилась мысль: "то что машина обыграла человека в го, это не разум, вот если бы она хоть раз выдала что-нибудь вроде: " ну его это го, давай анекдот расскажу," - вот это был бы ответ ИИ".
Впрочем относительно современных достижений ИИ понравилась мысль: "то что машина обыграла человека в го, это не разум, вот если бы она хоть раз выдала что-нибудь вроде: " ну его это го, давай анекдот расскажу," - вот это был бы ответ ИИ".
Markiz
New member
ИИ не имеет пока серьёзных перспектив.
Пока нет известного рецепта, или технологии, с достаточной гарантией изготовления ИИ - всё остальное случайность и рассматривается лишь в пределах погрешности.
Он не может ни критически мыслить, ни совершенствоваться, поскольку сам не знает по какому капризу случайностей он получился.
и не может менять и перенастраивать программу поскольку может изменить то, что сделало его таким и он станет обычным механическим набором программ.
он даже не может отменить программу "3 закона робототехники" - никто не знает что получится.
Не зря все описанные случаи появления ИИ в книгах часто этим и заканчиваются: нечто случается - сбой в программе, или что то подобное и ИИ исчезает
Так же случилось и в книге "Луна - суровая хозяйка"
В одной повести описана ситуация: женщина, молодая, умная и красивая, вышла замуж за пьяницу и раздолбая - непутевого мужика и родила от него детей.
И продолжала всю жизнь терпеть его выходки и бестолковость.
Однажды дочь её спросила:
- Мамочка, зачем ты вышла замуж за папу? Ты такая красивая, а он ... Лучше бы ты вышла замуж за кого то другого, не такого как наш папа.
- Милая, если бы я вышла замуж за другого - у меня бы не было такой чудесной доченьки, как ты!
И вопрос исчерпан.
Даже не самые превосходные данные могут привести к прекрасным результатам. Мы просто не знаем и не понимаем механизма.
Пока нет известного рецепта, или технологии, с достаточной гарантией изготовления ИИ - всё остальное случайность и рассматривается лишь в пределах погрешности.
Он не может ни критически мыслить, ни совершенствоваться, поскольку сам не знает по какому капризу случайностей он получился.
и не может менять и перенастраивать программу поскольку может изменить то, что сделало его таким и он станет обычным механическим набором программ.
он даже не может отменить программу "3 закона робототехники" - никто не знает что получится.
Не зря все описанные случаи появления ИИ в книгах часто этим и заканчиваются: нечто случается - сбой в программе, или что то подобное и ИИ исчезает
Так же случилось и в книге "Луна - суровая хозяйка"
В одной повести описана ситуация: женщина, молодая, умная и красивая, вышла замуж за пьяницу и раздолбая - непутевого мужика и родила от него детей.
И продолжала всю жизнь терпеть его выходки и бестолковость.
Однажды дочь её спросила:
- Мамочка, зачем ты вышла замуж за папу? Ты такая красивая, а он ... Лучше бы ты вышла замуж за кого то другого, не такого как наш папа.
- Милая, если бы я вышла замуж за другого - у меня бы не было такой чудесной доченьки, как ты!
И вопрос исчерпан.
Даже не самые превосходные данные могут привести к прекрасным результатам. Мы просто не знаем и не понимаем механизма.
Так потому оно и "фантастика".
Отменить не может, но, если рассматривать именно зарождение полноценного "кремниевого" разума, то может и не исполнять. Ведь кто кроме него самого сможет решить, а нарушил ли он их? В итоге эти законы станут чем-то вроде совести для ИИ, не более того.
"Если нельзя, но очень хочется, то можно" (с)
fan
Well-known member
По сабжу:
-цифровая диктатура - отчасти скорее положительно отношусь чем отрицательно, более равного подхода не добиться. Была мысль что вместо чиновников должны быть программы которые занимаются распределением средств на основе алгоритмов определенных. Программа не заинтересована во взятках, но конечно всегда есть программисты которые будут ее составлять и это будет проблемой - так как человеческий фактор ломает любую систему. По моему мнению человечеству нужен контроль не людей, а компьютеров - только тогда все будут равны перед законом.
-по поводу генетических заболеваний - в целом думаю все равно естественный отбор побеждает - не думаю что медицина сможет вылечить все болезни. к тому же есть естественный отбор на человеческом уровне - когда что женщины, что мужчины игнорируют не слишком то симпатичных и больных, не создавая с ними браков, а следственно после них не появляется потомства... обратные случаи скорее исключение чем правило... как бы не было прискорбно это для тех людей которым так не повезло от рождения...
-сверхлюди - ну тут видимо рано или поздно если различия будут сильными то гредет война, правда так как обычных скорее всего будет больше то сверхлюдям будет сложновато в ней победить, собственно сверхлюди уже были - я про арийцев... хотя они лишь верили что они сверх люди, но очевидно что появление более совершенных людей непременно приведет к тому же самому если их будет достаточно много, а дальше все решиться по старинке - кто кого перебьет тот и останется в живых...
-ии - вроде как кто-то уже доказал что создание ИИ не возможно. Во всяком случае языки программирования на данный момент к этому точно и близко не подошли. Возможно создать специализированное ИИ - которое будет иметь ветвь действий. То есть в целом думаю и сейчас вполне реально создать какой нить танк который будет просчитывать ситуации, сможет вести огонь и прочее - проблема только с идентификацией картинки - но это в принципе уже решается - так как уже есть распознователи с камер и прочее... В целом алгоритм действий ему можно задать по которому он будет искать и делать - в целом я считаю что возможен только такой ИИ. У него может быть гигантская база данных и могут быть заложены миллиарды решений каждой ситуации - но оттестить такую программу будет крайне нелегко, но теоретически это возможно - но он никогда не сможет творить или создавать что-то свое - а главное дополнять себя, он толком не сможет учиться вне рамок системы - в него можно заложить ветви развития - но они будут неосознанными - это как дип майнд в старкрафте - который копирует игроков и делает так потому что так делают игроки не осозновая зачем... Ии для нас опасен думаю в оружейных системах, например системах ядерного сдерживания, когда он может ошибочно принять решение на запуск ракет, если будут системы без одобрения человеком. Ну а так думаю это надуманная угроза и переживать по поводу нее не стоит, к счастью думаю разум человека повторить нельзя... тут есть какая то магия, это что-то выше технологий и прочего...
-цифровая диктатура - отчасти скорее положительно отношусь чем отрицательно, более равного подхода не добиться. Была мысль что вместо чиновников должны быть программы которые занимаются распределением средств на основе алгоритмов определенных. Программа не заинтересована во взятках, но конечно всегда есть программисты которые будут ее составлять и это будет проблемой - так как человеческий фактор ломает любую систему. По моему мнению человечеству нужен контроль не людей, а компьютеров - только тогда все будут равны перед законом.
-по поводу генетических заболеваний - в целом думаю все равно естественный отбор побеждает - не думаю что медицина сможет вылечить все болезни. к тому же есть естественный отбор на человеческом уровне - когда что женщины, что мужчины игнорируют не слишком то симпатичных и больных, не создавая с ними браков, а следственно после них не появляется потомства... обратные случаи скорее исключение чем правило... как бы не было прискорбно это для тех людей которым так не повезло от рождения...
-сверхлюди - ну тут видимо рано или поздно если различия будут сильными то гредет война, правда так как обычных скорее всего будет больше то сверхлюдям будет сложновато в ней победить, собственно сверхлюди уже были - я про арийцев... хотя они лишь верили что они сверх люди, но очевидно что появление более совершенных людей непременно приведет к тому же самому если их будет достаточно много, а дальше все решиться по старинке - кто кого перебьет тот и останется в живых...
-ии - вроде как кто-то уже доказал что создание ИИ не возможно. Во всяком случае языки программирования на данный момент к этому точно и близко не подошли. Возможно создать специализированное ИИ - которое будет иметь ветвь действий. То есть в целом думаю и сейчас вполне реально создать какой нить танк который будет просчитывать ситуации, сможет вести огонь и прочее - проблема только с идентификацией картинки - но это в принципе уже решается - так как уже есть распознователи с камер и прочее... В целом алгоритм действий ему можно задать по которому он будет искать и делать - в целом я считаю что возможен только такой ИИ. У него может быть гигантская база данных и могут быть заложены миллиарды решений каждой ситуации - но оттестить такую программу будет крайне нелегко, но теоретически это возможно - но он никогда не сможет творить или создавать что-то свое - а главное дополнять себя, он толком не сможет учиться вне рамок системы - в него можно заложить ветви развития - но они будут неосознанными - это как дип майнд в старкрафте - который копирует игроков и делает так потому что так делают игроки не осозновая зачем... Ии для нас опасен думаю в оружейных системах, например системах ядерного сдерживания, когда он может ошибочно принять решение на запуск ракет, если будут системы без одобрения человеком. Ну а так думаю это надуманная угроза и переживать по поводу нее не стоит, к счастью думаю разум человека повторить нельзя... тут есть какая то магия, это что-то выше технологий и прочего...
Сейчас отходят от классического понятия ИИ, как некоего искусственного человекоподобного разума. Не получается сделать, это раз и не очень понятно зачем.
Сейчас ИИ, это скорее, высокоспециализированные программы, решающие некую проблему в автоматическом режиме.
Как пример, системы распознавания текста, которые уже стали работать в автономном режиме в ряде профессиональных сканеров, медицинские системы обсчета ЭКГ или трактовки анализов, климат-контроли всех видов и тп. Система не ставит целью стать неким продвинутым заменителем человека, она просто решает те задачи, которые возможно выполнить без вмешательства внешнего управления.
Парадокс дальнейших направлений развития в том, что ряд систем требует полного исключения или серьезного ограничения вмешательства в работу процесса. Самый простой пример это машина-автопилот. В принципе нет особой проблемы сопряжеть систему навигации и управления автомобиля, чтобы вывести его в некую точку назначения, так же не сложно вливаться в дорожный поток и покидать его при условии оборудования автомобилей системой взаимодействия типа системы предупреждения столкновения самолетов. МАшина отъехала со стоянки, подала сигнал транспортному потоку, произошло некое притормаживание в участке разряжения и авто вливается в движение. Еще проще организовать скоростной режим - метро уже сейчас работает по управляющим частотам, здесь еще проще - знак подает код ограничения скорости. Кстати, обсуждали идею вместо увеличения количества камер ставить некое устройство, которое будет передавать аналогу антирадара инфосигнал "Внимание, скорость на данном участке..." со звуковым оповещением водителя. Попадаешь далее на нарушении, ну, сам дурак. Против больше всего выступает ГАИ, дескать лихачи будут предупреждены, а там где системы не будет станут отрываться
Проблема одна у такой системы - это водитель-человек, который плевал на все предписания.
Еще одно направление современного ИИ это "смышленный дом" (термин умный был неправильной и дурной калькой). В принципе сейчас ограничивает только одно - нет единого стандарта протокола работы таких устройств и объединить в целое крайне сложно. Пока, одни из немногих это китайские Mio и то, все это больше пока устройства одного производителя и даже у них появились уже два стандарта.
Но вот это направление крайне перспективно, задача только уговорить производителей не городить огород и не сводить все вай-фай на кондерах, кофемашинах и холодильниках к не особо нужному и часто глючному приложению на смартфоне, а дать возможность управляться с программ различных производителей.
Но все сказанное, конечно, может использоваться Большим Братом за слежки и вмешательства в личную жизнь, но именно до диктатуры машин это не то что далеко, а вообще ведет в противоположном направлении.
Сейчас ИИ, это скорее, высокоспециализированные программы, решающие некую проблему в автоматическом режиме.
Как пример, системы распознавания текста, которые уже стали работать в автономном режиме в ряде профессиональных сканеров, медицинские системы обсчета ЭКГ или трактовки анализов, климат-контроли всех видов и тп. Система не ставит целью стать неким продвинутым заменителем человека, она просто решает те задачи, которые возможно выполнить без вмешательства внешнего управления.
Парадокс дальнейших направлений развития в том, что ряд систем требует полного исключения или серьезного ограничения вмешательства в работу процесса. Самый простой пример это машина-автопилот. В принципе нет особой проблемы сопряжеть систему навигации и управления автомобиля, чтобы вывести его в некую точку назначения, так же не сложно вливаться в дорожный поток и покидать его при условии оборудования автомобилей системой взаимодействия типа системы предупреждения столкновения самолетов. МАшина отъехала со стоянки, подала сигнал транспортному потоку, произошло некое притормаживание в участке разряжения и авто вливается в движение. Еще проще организовать скоростной режим - метро уже сейчас работает по управляющим частотам, здесь еще проще - знак подает код ограничения скорости. Кстати, обсуждали идею вместо увеличения количества камер ставить некое устройство, которое будет передавать аналогу антирадара инфосигнал "Внимание, скорость на данном участке..." со звуковым оповещением водителя. Попадаешь далее на нарушении, ну, сам дурак. Против больше всего выступает ГАИ, дескать лихачи будут предупреждены, а там где системы не будет станут отрываться
Проблема одна у такой системы - это водитель-человек, который плевал на все предписания.
Еще одно направление современного ИИ это "смышленный дом" (термин умный был неправильной и дурной калькой). В принципе сейчас ограничивает только одно - нет единого стандарта протокола работы таких устройств и объединить в целое крайне сложно. Пока, одни из немногих это китайские Mio и то, все это больше пока устройства одного производителя и даже у них появились уже два стандарта.
Но вот это направление крайне перспективно, задача только уговорить производителей не городить огород и не сводить все вай-фай на кондерах, кофемашинах и холодильниках к не особо нужному и часто глючному приложению на смартфоне, а дать возможность управляться с программ различных производителей.
Но все сказанное, конечно, может использоваться Большим Братом за слежки и вмешательства в личную жизнь, но именно до диктатуры машин это не то что далеко, а вообще ведет в противоположном направлении.
dencat
Member
Собственно, чего огород городить, всё это уже изображено (имеется ввиду и ИИ, и связка человек-машина) в романах А. Л. Ливадного. Огромное полотно охватывающее период с 2050 года до примерно ( сейчас точно не помню) 3980 гг. Там и начальная колонизация звёздных систем, и развитие ИИ, и две галактические войны, и встреча с иными расами, и интерфейс человека с механизмами и киберпространством. Серия называется "История Галактики". У него много отдельных серий, часто пересекающихся с основной, так же отдельные рассказы. В основной серии около 60 книг. Читается очень легко, создаётся впечатление, что автор там побывал сам. Очень рекомендую, кому интересно. Кстати, роботы-андроиды серии "Хьюго" имели три степени свободы: на первой это был обычный робот-слуга, мог нянчить детей, возделывать огороды и т. д., на второй степени андроид привязывался по коду ДНК к определённому хозяину. При включении третьей степени (вводилась только вручную) включалась полная программная свобода и тогда начиналось развитие ИИ и он уже мог защищать своего владельца с оружием в руках. При гибели хозяина развитие ИИ шло самостоятельно и зависело от первоначально накопленного опыта и моральных установок полученных от первого владельца. Это так, к слову о законах робототехники А. Азимова.
А вы тех, кто жил лет ..........дцать назад - не списываете со счетов? Антиутопия, махровая? эти человечки ещё себя покажут. Вот Вы думаете, что сайтом владеет Василий??? не так-ли. А на самом деле нет.Махровщина - она родилась неспроста. То-что нам досталось по-наследству - это лишь преходящее. Из быта в быт. Я не оппонирую Вам. Упаси... Я на Ваших же "лыжах" стою. Я лишь уточняю.С точки зрения людей живших лет 20-25 назад мы все живем в махровой антиутопии. Так что может и не заметим темного будущего. Если свет не выключат.
А вы пожалуйста без проповедей "секты кошмарных 90ых"
Я имел ввиду все Человечество, а не только 1/6 часть суши. В Европе, Америке, Азии все современные штучки повседневной жизни почему то были в антиутопиях а не в произведениях "светлого будущего".
VeraDV
Active member
У наших продвинутых в моде гаденький памфлет "1984". Типо антиутопия. Типо про коммунизм...
Находясь в Корее, которая южная, где демократия и все дела, я каждый день наблюдала в офисе такую картину. Конец обеденного перерыва. Сотрудники мирно посапывают за рабочими местами или вяло перемещаются к/от туалетам, внезапно во всех точках включаются телевизоры и под бравурную музыку начинаю показывать производственные достижения и рассказывать, какая у нас классная компания и какое у нас славное и начальство. Сотрудники на экране гордо берут на себя повышенные капобязательства, начальники важно вещают. Причем, если по телевизору показывают большого босса и какой-нибудь кореец проходит мимо телека, то кореец останавливается, кланяется телевизору. Звук в этой оруэлловщине выключить или уменьшить никак нельзя. Политинформация в урезанном варианте (минут на 10) повторяется после ужина где-то в часов семь вечера.
Нам сказок не надо. ЖисТь она пострашней любой сказки будет.
Находясь в Корее, которая южная, где демократия и все дела, я каждый день наблюдала в офисе такую картину. Конец обеденного перерыва. Сотрудники мирно посапывают за рабочими местами или вяло перемещаются к/от туалетам, внезапно во всех точках включаются телевизоры и под бравурную музыку начинаю показывать производственные достижения и рассказывать, какая у нас классная компания и какое у нас славное и начальство. Сотрудники на экране гордо берут на себя повышенные капобязательства, начальники важно вещают. Причем, если по телевизору показывают большого босса и какой-нибудь кореец проходит мимо телека, то кореец останавливается, кланяется телевизору. Звук в этой оруэлловщине выключить или уменьшить никак нельзя. Политинформация в урезанном варианте (минут на 10) повторяется после ужина где-то в часов семь вечера.
Нам сказок не надо. ЖисТь она пострашней любой сказки будет.