Мрачная антиутопия сюжет в тематическом творчестве не редкий. Так как обсуждать предполагаю этические вопросы, а не проекты человеческих мясо-молочных ферм, думаю тема уместнее будет в болталке.
Не так давно прослушал лекцию Курпатова "четвёртая мировая война". Не скажу, что услышал много нового и далеко не со всем согласен, но все эти мысли, собранные вместе, дают повод задуматься.
Вопрос первый: человек + большие данные = цифровая диктатура?
Навеяно китайской системой социального кредита - пожалуй самое лютое проявление на сегодняшний день. Да, это похоже на банковскую кредитную историю, но мощности, производительность, масштабы этих систем растут. Они начинают видеть, помнить и анализировать многие мелочи. При чем, уже сейчас это делают, в основном, уже не люди. И, чисто статистически, казалось бы одни плюсы: и безвозвратные кредиты не пойми кому не дают, и лихачи за водительские права боятся, а про личные истории и "перегибы на местах" подумаешь... Живешь себе и вдруг предложение внепланово посетить психдиспансер, а докажешь, что не дурак, так на тебя донос в полицию прилетит. И все потому что мудрая самообучающаяся система по сумме косвенных факторов решила, ты или псих, или террорист.
Вопрос второй: человеческая порода
За последние полвека медицина сделала очень большие успехи, сильно потеснив естественный отбор. Люди, которые относительно недавно не доживали до подросткового возраста или был вычеркнут из обычной жизни, сегодня живут и рожают детей. Победив многие болезни и повысив качество жизни многих людей, мы распахнули двери волне наследственных заболеваний. И дальше чем лучше в одном направлении, тем хуже в другом.
Вопрос третий: люди и сверхлюди
Генетически модифицированные люди уже родились (в Китае). Да, модификация касается устойчивости к ВИЧ, да, это осудили китайские ученые и дальнейшие опыты запрещены, но технологии развиваются и лет через 5-10 для подобной работы не потребуются ни ведущие ученые, ни уникальное оборудование. Кто и что тогда решит исправить в геноме человека очень большой вопрос. А может беда придет со стороны техники, например, прямое подключение мозга к компьютеру. Очень заманчиво дополнить себя несколькими терабайтам не забывающейся справочной информации с мгновенным поиском и чтением или встроенным инженерным калькулятором, напрямую управлять техникой или видеть "дополненную реальность" без виртуальных очков.
А вопрос вопрос в том, можно ли будет этих новых людей считать людьми, а главное, не наступит ли момент, когда они перестанут считать людьми нас?
Вопрос четвертый: человек и искусственный интеллект
Новостей про пробуждение самосознания у ИИ пока не наблюдается, но технологии развиваются. К моменту самоосознания "железа" мы в очень многих сферах будем зависимы от того, что не управляется напрямую человеком. А вот кем или чем нас будет считать настоящий, разумный ИИ очень большой вопрос (домашними любимцами?
). Азимовские три закона робототехники в думающий мозг нерушимо внедрить не получится. Да и заметим ли мы "восстание машин", если большая часть людей будет счастливо пребывать в виртуальном аутизме с идеями и желаниями, любезно подсказанными сетью.
Не так давно прослушал лекцию Курпатова "четвёртая мировая война". Не скажу, что услышал много нового и далеко не со всем согласен, но все эти мысли, собранные вместе, дают повод задуматься.
Вопрос первый: человек + большие данные = цифровая диктатура?
Навеяно китайской системой социального кредита - пожалуй самое лютое проявление на сегодняшний день. Да, это похоже на банковскую кредитную историю, но мощности, производительность, масштабы этих систем растут. Они начинают видеть, помнить и анализировать многие мелочи. При чем, уже сейчас это делают, в основном, уже не люди. И, чисто статистически, казалось бы одни плюсы: и безвозвратные кредиты не пойми кому не дают, и лихачи за водительские права боятся, а про личные истории и "перегибы на местах" подумаешь... Живешь себе и вдруг предложение внепланово посетить психдиспансер, а докажешь, что не дурак, так на тебя донос в полицию прилетит. И все потому что мудрая самообучающаяся система по сумме косвенных факторов решила, ты или псих, или террорист.
Вопрос второй: человеческая порода
За последние полвека медицина сделала очень большие успехи, сильно потеснив естественный отбор. Люди, которые относительно недавно не доживали до подросткового возраста или был вычеркнут из обычной жизни, сегодня живут и рожают детей. Победив многие болезни и повысив качество жизни многих людей, мы распахнули двери волне наследственных заболеваний. И дальше чем лучше в одном направлении, тем хуже в другом.
Вопрос третий: люди и сверхлюди
Генетически модифицированные люди уже родились (в Китае). Да, модификация касается устойчивости к ВИЧ, да, это осудили китайские ученые и дальнейшие опыты запрещены, но технологии развиваются и лет через 5-10 для подобной работы не потребуются ни ведущие ученые, ни уникальное оборудование. Кто и что тогда решит исправить в геноме человека очень большой вопрос. А может беда придет со стороны техники, например, прямое подключение мозга к компьютеру. Очень заманчиво дополнить себя несколькими терабайтам не забывающейся справочной информации с мгновенным поиском и чтением или встроенным инженерным калькулятором, напрямую управлять техникой или видеть "дополненную реальность" без виртуальных очков.
А вопрос вопрос в том, можно ли будет этих новых людей считать людьми, а главное, не наступит ли момент, когда они перестанут считать людьми нас?
Вопрос четвертый: человек и искусственный интеллект
Новостей про пробуждение самосознания у ИИ пока не наблюдается, но технологии развиваются. К моменту самоосознания "железа" мы в очень многих сферах будем зависимы от того, что не управляется напрямую человеком. А вот кем или чем нас будет считать настоящий, разумный ИИ очень большой вопрос (домашними любимцами?
). Азимовские три закона робототехники в думающий мозг нерушимо внедрить не получится. Да и заметим ли мы "восстание машин", если большая часть людей будет счастливо пребывать в виртуальном аутизме с идеями и желаниями, любезно подсказанными сетью.
Last edited:
