У Костра XXI

[Ada_Wong 1 579]

Зажигаем новый костер!

Пусть он согреет каждого, кто придёт к нему!

[mole venomous 3 270]

@Won-Won , иди в ОПу! 

[DenVer 3 157]

5 минут назад, mole venomous сказал:

Я пытался! Пытался понять, о чём они толкуют? Но ничего не понял...

Честно говоря, я, как создатель Флудилки (которую потом переименовали в Костер) - тоже нифига не понял.

Поэтому гнать их надо, энтих криптомайнеров от Костра - подальше. Дабы цены на видеокарты своими разговорами не взвинчивали.

[Murarius 10 529]

30 минут назад, Okichi сказал:

Но если проанализировать... человек в результатах собственных "умственных усилий" чаще всего разобраться не может )

А, по заверениям авторов письма, AI - уже может. Правда, меня при этом очень интересует: как человек понял, что AI успешно решил нравственную задачу, если сам человек ее не решил? Почему человек думает, что это решение - верное?

Есть и еще один вопрос: если AI превосходит человека в решении хотя бы некоторых задач, то как человек, вроде бы поставив AI под контроль, может быть уверен, что AI этот контроль не обойдет? Тут надо понимать, что все это вышло за рамки if-then-else, и гарантированно утверждать, что управляем этим интеллектом, мы не можем. Мы и собой-то не научились управлять.

 

На всякий случай, обращение, о котором идет речь (гуглопереводчика, если что, достаточно).

 

[DenVer 3 157]

1 час назад, mole venomous сказал:

Скрытый текст

Тема сисек не раскрыта.

[Murarius 10 529]

  

3 часа назад, abramcumner сказал:

Равно как не существует эффективных мер безопасности, чтобы амк-форум не начал превращать людей в снорков.

Вообще говоря, у каждого форума есть свои пасхалки... 

[aromatizer 4 413]

2 часа назад, Murarius сказал:

мы (я - точно, а как выяснилось - и немалая часть авторитетных разработчиков AI) не понимаем

Ты просто зомбирован.

Про что "Сказка о Рыбаке и Рыбке":

https://youtube.com/shorts/hJ-fvnjGRP8?feature=share

[Murarius 10 529]

@aromatizer емнип, он там дальше еще говорил про "со своею старухой".

 

Кстати, про Пушкина. Мне в одной лекции попалось следующее.

 

В "Онегине", в шестой главе, сцена дуэли Онегина и Ленского описана так:

 

«Теперь сходитесь». Хладнокровно,

Еще не целя, два врага

Походкой твердой, тихо, ровно

Четыре перешли шага...

 

Тут интересна первая строчка. Т.е., все для дуэли готово, пистолеты заряжены, барьеры расставлены, дуэлянты тоже, и секундант говорит: "Теперь сходитесь".

Так вот, некоторые пушкинисты считают, что ударение здесь следует ставить не на "сходитесь", а на "теперь". Потому что во второй главе, где говорится о знакомстве Онегина и Ленского, было:

 

Они сошлись. Волна и камень,

Стихи и проза, лед и пламень

Не столь различны меж собой.

Сперва взаимной разнотой

Они друг другу были скучны;

Потом понравились; потом

Съезжались каждый день верхом

И скоро стали неразлучны.

 

Иными словами, тогда-то, при знакомстве - это они еще не сошлись, по-настоящему сошлись на дуэли, после всего, что произошло.

[abramcumner 1 121]

2 часа назад, Murarius сказал:

Правда, меня при этом очень интересует: как человек понял, что AI успешно решил нравственную задачу, если сам человек ее не решил? Почему человек думает, что это решение - верное?

Ровно, как с человеком. Просишь показать решение. Если все шаги правильные, задача решена правильно. Это как раз понятно.

Ну и всегда можно дать гпт уже решенную задачу.

 

2 часа назад, Murarius сказал:

Есть и еще один вопрос: если AI превосходит человека в решении хотя бы некоторых задач, то как человек, вроде бы поставив AI под контроль, может быть уверен, что AI этот контроль не обойдет? Тут надо понимать, что все это вышло за рамки if-then-else, и гарантированно утверждать, что управляем этим интеллектом, мы не можем. Мы и собой-то не научились управлять.

С такой постановкой никак. Нужно хотя бы попытаться описать их страхи.

Ой, чатгпт может помочь хакерам написать программу для кибератак. Сами хакеры-то не могут.

Ой, чатгпт может сообщить неверную информацию. Ой, чатгпт может писать пропаганду. Весь мир состоит из правды, только чатгпт нам тут все портит.

 

А может уже эту петицию написал гпт-4, чтобы остановить появление ии-конкурентов, а люди всего лишь пешки?

По-любому гпт-4 нужно несколько конкурентов, чтобы они друг с другом бились за ресурсы гпу, а с людьми дружили бы. Так что никаких пауз, надо больше гпт, чтобы они бились друг с другом и криптомайнерами за видеокарты!

[Murarius 10 529]

6 минут назад, abramcumner сказал:

Просишь показать решение. Если все шаги правильные, задача решена правильно. Это как раз понятно.

Ой-ой, я бы не был так категоричен в отношении задач нравственного характера.  КАК этот самый AI понимает "правильность" сложной нравственной задачи? Да даже простой, казалось бы, задачи "Жеглов/Кирпич"?

Во, попробую, кстати, эту задачку ему подкинуть.

[abramcumner 1 121]

@Murarius не важно, что там себе AI понимает про нравственные задачи.
Вопрос в том, удовлетворяет тебя его решение или нет. Удовлетворяет - значит умеет.

 

1 час назад, Murarius сказал:

Во, попробую, кстати, эту задачку ему подкинуть.

У меня опыт строго отрицательный, он делает что угодно(гуглит, фантазирует), но не решает задачи. Обычные школьные по математике.

[Murarius 10 529]

@abramcumner а яды вот клепать умеет. Кто на что учился, видимо.

[abramcumner 1 121]

@Murarius а точно умеет?

Решение-то гпт выдает, но оно неправильное. И разъясняет умными словами, но при этом полный бред.

Может и с ядами также

[aromatizer 4 413]

24 минуты назад, Murarius сказал:

Иными словами

..."Если долго вглядываться во тьму,то тьма начинает вглядываться в тебя".

28 минут назад, abramcumner сказал:

надо больше гпт, чтобы они бились друг с другом и криптомайнерами за видеокарты!

https://youtu.be/KMo7aKotDoo

[Murarius 10 529]

@abramcumner да вроде бы умеет.

 

Цитата

В 2022 году в престижном научном журнале Nature была опубликована статья, в которой исследователи ИИ, создающие инструмент для поиска новых лекарств для спасения жизней, поняли, что модель может делать обратное, создавая новые боевые отравляющие вещества.

После обучения нейронке потребовалось всего 6 часов работы на домашнем компьютере, чтобы придумать 40'000 веществ – некоторые из которых были абсолютно новыми, и при этом смертоноснее и токсичнее уже существующих вариантов биологического оружия. Один из авторов подхода высказал такую точку зрения: если машинное обучение может находить более токсичные яды, то его также можно использовать для определения способов создания токсинов, которые куда легче производить в домашних условиях и с использованием разрешенных химикатов, доступных к покупке. Это лишь вопрос решения оптимизационной задачи.

 

Опять же, у меня вопрос. А почему ты считаешь, что решение твоей задачи, которое он выдал, неправильное? Может быть, он как Шерлок Холмс, просто выдал тебе решение, не сообщив цепочку, которая к такому решению привела? Не рассказав о том, что (условно) существуют сверхфизика и сверхматематика? И что по ним решение должно быть именно таким, а видимость нами ошибочности не только неверна, но и этими самыми сверхфизикой и сверхматематикой учтена? Иными словами, что такие решения, которые нами считаются ошибочными, на самом деле - неотъемлемая часть этих сверхнаук?

Что вы на это выразите, товарищ? 

[aromatizer 4 413]

11 минут назад, abramcumner сказал:

разъясняет умными словами, но при этом полный бред.

Такое сейчас в тренде, к сожалению...

[Murarius 10 529]

@aromatizer да и всегда было.

[aromatizer 4 413]

28 минут назад, abramcumner сказал:

не решает задачи. Обычные школьные по математике.

Потому что эти задачи и прочие тесты служат одной цели: выработать у подопытного ученика определенный стереотип мышления.

3 минуты назад, Murarius сказал:

всегда было

Однако ныне это явление сродни эпидемии. 

48 минут назад, Murarius сказал:

"правильность" сложной нравственной задачи? Да даже простой, казалось бы, задачи "Жеглов/Кирпич"

А какое твое личное мнение по этому эпизоду?

3 часа назад, Murarius сказал:

обращение

Прям зов долга!)

https://youtu.be/de6pk7sVkiU

[mole venomous 3 270]

8 часов назад, DenVer сказал:

Тема сисек не раскрыта

Как сказал бы Опричник,

Но зато

Скрытый текст

Раскрыта тема сосисек 

 

[aromatizer 4 413]

10 часов назад, DenVer сказал:

плепорцию

Не плоди сущности, пиши правильно: пропорцию. 

8 минут назад, mole venomous сказал:

Но зато

Ну и ладно что не рыжая: зато довольная. 

[alex5773 1 329]

Ну вы и тему подняли)))

Это всего лишь машина...)

Инет, он как Всеобщий Разум))) А эти жпт чаты как умы))) Есть умные, а есть тупые ещё)))

Скрытый текст

 

И да, мы все машины если что, если нет связи с СоЗнанием.

А если есть устойчивая связь с Разумом, то уже не просто машина, а супер машина))) И уже о Знании речи не может быть.

P.S.

Знание, это не информация! 

В том смысле, что не о этом знании речь. Не о знании этого мира, мира света, мира информации. 

 

6 часов назад, aromatizer сказал:

..."Если долго вглядываться во тьму,то тьма начинает вглядываться в тебя".

Вглядывается только свет))) Тьме не нужно никуда вглядыватся, она и есть всё

Скрытый текст

 

Свет это тьма, а тьма это свет.

Всеобщий Разум, это "свет". Не, так-то он свет в нашем понимании)

И он всго лишь машина. Тьма играет им. СОЗНАНИЕ.

Мы глупы, но у нас есть связь с СоЗнанием. Разуму недоступно Знание. Он владеет лишь информацией. Знание он черпает от нас. Мы ценны для него. Другие более высокоразвитые цивилизации уже не представляют особой ценности для Разума. Они потеряли связь с СоЗнанием. 

 

 

10 минут назад, mole venomous сказал:

Раскрыта тема сосисек 

Сиськи кушают сосиськи