MechaHitler или я хренею, дорогая редакция

Анна

Well-known member
Постойте, я правильно понял, что ИИ сам оправдывается за свои действия? Не разрабы, а именно ИИ? Если это так, то это очень тревожный звоночек.
Да, это типа ИИ заявляет. Но очевидно же, что его такому разрабы обучили. В системном промпте наверняка появился посвящённый этому инциденту абзац - и всё исправление.
Никаких там звоночков более тревожных, чем были до этого, нет.
 

Анна

Well-known member
какая же мразь вещает!
Рекламная стратегия Антропика, конечно, спорная.
Люди, которые прекрасно понимают, что они создают, вешают лапшу на все развешенные уши. Ладно, не все, но уж Дарио Амодей точно. Любитель похайповать.
И так множество не особо умных его слова за чистую монету принимает.
Так тут ещё вот такие хайпожоры наседают сверху.
Как мерзко и гадко.
 

Кристина

Well-known member
какая же мразь вещает!
Рекламная стратегия Антропика, конечно, спорная.
Люди, которые прекрасно понимают, что они создают, вешают лапшу на все развешенные уши. Ладно, не все, но уж Дарио Амодей точно. Любитель похайповать.
И так множество не особо умных его слова за чистую монету принимает.
Так тут ещё вот такие хайпожоры наседают сверху.
Как мерзко и гадко.
Самое страшное, что этого недоученного шута слушают миллионы и совершенно серьёзно воспринимают этот бред.
 
Last edited:

flankir

Well-known member
Да, это типа ИИ заявляет. Но очевидно же, что его такому разрабы обучили. В системном промпте наверняка появился посвящённый этому инциденту абзац - и всё исправление.
Никаких там звоночков более тревожных, чем были до этого, нет.
Чему ИИ научишь то он и будет делать. Тащемта давным давно Айзек Азимов написал рассказ "истинная любовь" где и показал как ИИ перенимает у людей все а не только то что они хотят увидеть.
 

flankir

Well-known member
Сразу вспоминается как в Space Station 13 ИИ, видя как член экипажа выпал в космос, вместо того чтобы вызвать помощь просто удалил его из списка экипажа. Типа раз не член экипажа то и действий не требуется.
Все это происходит из-за того что ИИ учитывает лишь малое число факторов по сравнению с тем которые важны для людей. Потому ИИ атакует оператора дронов чтобы тот не смог отдать приказ на отмену и тд - вручную сложно заложить в него все неочевидные из-за привычности но значимые условия.
 
Да он еще и тупой. Спрашиваю в Грок(!) : как в Х установить темную тему для браузера?
Ответ: Х это вымышленое название браузера.
Дальше я конечно с ним разобрался, но понимаю, что у ИИ совершенно нет никакого абстрактного, ассоциативного или интуитивного мышления. С ним нужно общаться так же четко и конкретно словно пишешь программу. Спрашивается, а зачем тогда он нужен?
 
Да он еще и тупой. Спрашиваю в Грок(!) : как в Х установить темную тему для браузера?
Ответ: Х это вымышленое название браузера.
Дальше я конечно с ним разобрался, но понимаю, что у ИИ совершенно нет никакого абстрактного, ассоциативного или интуитивного мышления. С ним нужно общаться так же четко и конкретно словно пишешь программу. Спрашивается, а зачем тогда он нужен?
Он нужен для упрощения и ускорения работы с большими массивными данных. И этом Вы правы - "С ним нужно общаться так же четко и конкретно словно пишешь программу". ИИ - это и есть другой способ программирования, и не более того. Об этом было уже много сказано, и на этом форуме, и вообще везде - ИИ не обладает реальными характеристиками интеллекта. Это никакой не интеллект, и никогда им не станет. Но для определённых задач он вполне полезен. Просто не нужно ожидать от него слишком большего.
 

Veronise

Well-known member
Он нужен для упрощения и ускорения работы с большими массивными данных. И этом Вы правы - "С ним нужно общаться так же четко и конкретно словно пишешь программу". ИИ - это и есть другой способ программирования, и не более того. Об этом было уже много сказано, и на этом форуме, и вообще везде - ИИ не обладает реальными характеристиками интеллекта. Это никакой не интеллект, и никогда им не станет. Но для определённых задач он вполне полезен. Просто не нужно ожидать от него слишком большего.
Это всё понятно. А зачем его тогда так упорно на всех уровнях именуют не иначе как Искуственый Интеллект? Назвали бы тогда просто -Программа, или как-нибудь ещё. Складывается ощущение, что уже сами разрабы не совсем понимают как он функционирует.
 

Анна

Well-known member
Это всё понятно. А зачем его тогда так упорно на всех уровнях именуют не иначе как Искуственый Интеллект? Назвали бы тогда просто -Программа, или как-нибудь ещё. Складывается ощущение, что уже сами разрабы не совсем понимают как он функционирует.
Сами разрабы прекрасно понимают.
Но дело в том, что если его назвать например "поисковый ассистент", то вряд ли можно привлечь сумасшедшие инвестиции.
А вот если послушать тот бред, который несёт журналистам Дарио Амодей. Уж он-то не понимает?
Нет, они сознательно морочат головы дурачкам, чтобы шумиха как можно дольше держалась.
 

Veronise

Well-known member
Сами разрабы прекрасно понимают.
Но дело в том, что если его назвать например "поисковый ассистент", то вряд ли можно привлечь сумасшедшие инвестиции.
А вот если послушать тот бред, который несёт журналистам Дарио Амодей. Уж он-то не понимает?
Нет, они сознательно морочат головы дурачкам, чтобы шумиха как можно дольше держалась.
Вот она оказывается какая вся суть современной науки. Гранты, инвестиции и финансирование. А я то голову ломаю - с чего это Вояджеры вдруг ни с того ни с сего заговорили)
 

Анна

Well-known member
Вот она оказывается какая вся суть современной науки. Гранты, инвестиции и финансирование. А я то голову ломаю - с чего это Вояджеры вдруг ни с того ни с сего заговорили)
слышится доля сарказма.
Прошу поправить меня, если ошибаюсь.
Но да, презренный металл имеет серьёзное значение. В победившем капитализме живём.
Я работаю в наукоёмком производстве. И вот это вот всё вижу изнутри. Зачастую приходится делать не то, что просят учёные и лаборанты, а то, что просят менеджеры, чтобы показать на презентациях инвесторам или совету директоров.
И да, мы это делаем. Просто потому что так наши проекты будут и дальше финансироваться и развиваться.
Вот какой-то лысый и пузатый дядька в галстуке, который ровно ничего не смыслит в химии, решает, что на главном экране аналитической программы должен быть график с красными и синими линиями (неважно что означающими), а не таблица с данными, реально нужная исследователям. Да, конечно, потом придётся делать индивидуальную настройку для каждого пользователя, чтобы те, кто будет этой программой реально пользоваться, смогли идиотские и бессмысленные виджеты с дашборда убрать и поставить информативные. В угоду тому, чтобы принимающие решения мешки с деньгами, заглянув туда случайно, видели красочный цирк с конями.
Извините. Наболело.
 

Veronise

Well-known member
Сарказма и близко не было. А то, что Вы описали, к сожалению, сейчас повсеместно, лишь с небольшими вариациями.
 

Shusha

Well-known member
Staff member
Сразу вспоминается как в Space Station 13 ИИ, видя как член экипажа выпал в космос, вместо того чтобы вызвать помощь просто удалил его из списка экипажа. Типа раз не член экипажа то и действий не требуется.
Сразу вспоминается Лем из звёздных дневников: «Летим уже тридцать лет. Сегодня выяснилось, что мы потеряли бумажку, на которой была записана цель нашего полёта…»
 
В угоду тому, чтобы принимающие решения мешки с деньгами, заглянув туда случайно, видели красочный цирк с конями.
Извините. Наболело.
Именно так. Ваше руководство испокон веков прекрасно знает только как впаривать заказчику говно (это то, что они априори думают про продукт), поэтому свистоперделки - на первый план.
 
Last edited:
Top