У Костра XXI

[abramcumner 1 148]

29.03.2023 в 12:30, Murarius сказал:

«Слова» в этом машинном языке неинтерпретируемы напрямую для людей, но, тем не менее, связаны с реальным миром.

Пссс, а вы не замечали, что содержимое zip-архива или jpg тоже напрямую неинтерпретируемо для людей?

 

29.03.2023 в 12:30, Murarius сказал:

Цитата

Они проверяли, например, что пока модель не может закачивать себя в интернет и начать там бесконтрольно распространяться.

Ключевое слово здесь сами понимаете, какое. 

Закачивать в себя интернет?

 

Изменено 30 Марта 2023 пользователем abramcumner

[abramcumner 1 148]

@Murarius

1. Архивирование/разархивирование тоже может отнимать прорву ресурсов. Были же вирусы, которые шифровали диски. Как-то же это пережили.

2. Алгоритмы работы GPT известны и понятны. В конце концов их же люди и сделали.

3. "И для того, чтобы подавить такое использование, ресурсов потребуется намного больше." - с чего бы это? откуда такие страшилки? не запускай chatgpt.exe - не будет траты ресурсов.

4. "Говоря простым языком, оно может, попав в интернет без должного контроля, ставить себе задачи и решать их."

Это называется вирус, его спокойно отловит любой антивирус.

 

Что за странные страшилки??? Что за интернет без должного контроля??? Нет "интернета", есть куча серверов. Их контролируют владельцы серверов. Ну начнет на амк ломиться gpt-126, заблокируете его и все. В крайнем случае придется восстановиться из бекапа.

 

[abramcumner 1 148]

1 час назад, Murarius сказал:

приостановить распространение. Как видишь, совершенно безуспешно.

Что?! ChatGPT одна штука, GPT-4 - 1 штука. Вообще не вижу распространения.

 

Какая связь с майнингом и уж тем более сложностью? Программу для майнинга ты сам себе ставишь. Хочешь тратить свои ресурсы - тратишь, не хочешь - не тратишь.

Возрастание сложности задумано и сделано людьми.

 

Еще раз: gpt - просто программа, ты ее сам запускаешь, она что-то принимает на вход и что-то выдает на выходе. Все, больше она ничего не может.

Дальше уже человек допишет, чтобы чатгпт скачивался на другие компьютеры и запускался там, добавит ей элементы управления чем-нибудь. Вообще не вижу, почему надо бояться чатгпт, а не этого человека. И чем он отличается от нынешних хакеров.

 

Кроме того байки про возможности чатгпт, как про фотографии, которые делают животные. Да, животные могут нажимать на кнопку съемки. Потом из тысячи фотографий человек выбирает одну, публикует. И все такие - ничего себе, что творит это животное! Хотя стоит задуматься, кто все-таки "автор" этой фотографии.

Или когда художник рисует картину, кто рисует: кисточка или художник? Так-то краски кисточка наносит.

 

Так же и чатгпт, изначально она обучалась на уже созданном человеком материале, в процессе человек постоянно уточняет, что ему надо, в конце человеком перед публикацией отбираются наиболее удачные результаты. Так что вопрос остается тем же: кто автор, чатгпт или человек.

 

Изменено 30 Марта 2023 пользователем abramcumner

[abramcumner 1 148]

1 час назад, Murarius сказал:

Но внезапно подкрадывается САМОпостановка задач.

Я просто хочу, чтобы было понятно: GPT может ставить задачу само себе,

Где ты такое нашел?

гпт просто преобразует текст на входе в какой-то текст на выходе. Нет у нее никакой самопостановки задачи.

Задача у нее одна - генерировать текст. Все остальное иллюзии человека, читающего текст.

 

1 час назад, Murarius сказал:

В обращении особо отмечается, что сейчас не существует эффективных мер безопасности

Равно как не существует эффективных мер безопасности, чтобы амк-форум не начал превращать людей в снорков.

 

1 час назад, Murarius сказал:

Означает это, что GPT завтра может начать придумывать новые яды и травить кожаных мешков?  Конечно, нет.

Означает это, что GPT завтра может начать придумывать новые яды? Да, означает.

"Придумывать" может, травить нет. Ну серьезно. Чтобы гпт начал травить, кто-то должен построить лабораторию, не просто запустить там гпт, а специально оборудовать лабораторию для управления компьютером, потом разработать и произвести средства доставки и опять же сделать управления для компьютера. И конечно же это означает, что гпт завтра будет травить людей. Серьезно?

 

1 час назад, Murarius сказал:

Подписанты же фактически предупреждают о возможном выходе его из-под контроля.

Как только появились патефоны, сами воспроизводящие музыку, сразу стали предупреждать о выходе их из под контроля. Три закона робототехники и тому подобное. Сейчас вообще можно не заморачиваться, а поручать писать такие предупреждения чатгпт.

 

1 час назад, Murarius сказал:

что AI уже так или иначе, хотя бы частично, не контролируется. То есть, авторы признают, что сейчас не существует эффективных мер контроля (а это, добавлю, в свою очередь, означает непонимание процессов, происходящих внутри - та самая технологическая сингулярность)

Процессы происходящие внутри известны - 100500 перемножений матриц.

Просто не надо добавлять туда управление хим/био лабораториями и ракетами.

 

Почему волнуются Илон Маск и другие люди, у которых уже есть чатгпт, совершенно понятно. Хорошо, когда у тебя есть чатгпт, а у конкурентов нет.

Если создатели чатгпт так волнуются, то почему чатгпт до сих пор работает? Почему появляются все новые и новые гпт, что ж они не ждут создания эффективных мер контроля?

 

[abramcumner 1 148]

1 час назад, Murarius сказал:

Хотя диплом - чепуха, конечно, не общее место. Совершенно точно не в дипломе вопрос.

Значит надо сформулировать вопрос

 

Крики о том, что надо менять образование, звучат всю жизнь. Звучали, когда я учился в школе, звучали в институте. Систему образования надо было менять из-за логарифмических линеек, систему образования надо было менять из-за калькуляторов, из-за гугла, вконтактика и тиктока. В этом сезоне надо менять из-за чатгпт.

 

А собственно почему?

 

У доски прекрасно видно, может человек сам решать задачи или нет.

Кроме написания диплома, есть его защита. Там преподаватели спокойно распознают сам писал диплом или нет. Какая разница написал тебе диплом человек или компьютер.

 

Скорее уж надо возвращаться к стилю прошлого века: живой учитель, уроки в классе, опрос у доски, нормальные экзамены и дипломы

Изменено 30 Марта 2023 пользователем abramcumner

[abramcumner 1 148]

@7.9 посмотрим. Очень сомневаюсь в пользе гпт. Но вдруг гпт действительно ИИ, который сможет учить человеков.

Если гпт поможет в образовании, разрешу ему запускаться на гпу, пока там сталкер не работает.

Изменено 30 Марта 2023 пользователем abramcumner

[abramcumner 1 148]

2 часа назад, Murarius сказал:

Правда, меня при этом очень интересует: как человек понял, что AI успешно решил нравственную задачу, если сам человек ее не решил? Почему человек думает, что это решение - верное?

Ровно, как с человеком. Просишь показать решение. Если все шаги правильные, задача решена правильно. Это как раз понятно.

Ну и всегда можно дать гпт уже решенную задачу.

 

2 часа назад, Murarius сказал:

Есть и еще один вопрос: если AI превосходит человека в решении хотя бы некоторых задач, то как человек, вроде бы поставив AI под контроль, может быть уверен, что AI этот контроль не обойдет? Тут надо понимать, что все это вышло за рамки if-then-else, и гарантированно утверждать, что управляем этим интеллектом, мы не можем. Мы и собой-то не научились управлять.

С такой постановкой никак. Нужно хотя бы попытаться описать их страхи.

Ой, чатгпт может помочь хакерам написать программу для кибератак. Сами хакеры-то не могут.

Ой, чатгпт может сообщить неверную информацию. Ой, чатгпт может писать пропаганду. Весь мир состоит из правды, только чатгпт нам тут все портит.

 

А может уже эту петицию написал гпт-4, чтобы остановить появление ии-конкурентов, а люди всего лишь пешки?

По-любому гпт-4 нужно несколько конкурентов, чтобы они друг с другом бились за ресурсы гпу, а с людьми дружили бы. Так что никаких пауз, надо больше гпт, чтобы они бились друг с другом и криптомайнерами за видеокарты!

[abramcumner 1 148]

@Murarius не важно, что там себе AI понимает про нравственные задачи.
Вопрос в том, удовлетворяет тебя его решение или нет. Удовлетворяет - значит умеет.

 

1 час назад, Murarius сказал:

Во, попробую, кстати, эту задачку ему подкинуть.

У меня опыт строго отрицательный, он делает что угодно(гуглит, фантазирует), но не решает задачи. Обычные школьные по математике.

[abramcumner 1 148]

@Murarius а точно умеет?

Решение-то гпт выдает, но оно неправильное. И разъясняет умными словами, но при этом полный бред.

Может и с ядами также

[abramcumner 1 148]

9 часов назад, Murarius сказал:

А почему ты считаешь, что решение твоей задачи, которое он выдал, неправильное? Может быть, он как Шерлок Холмс, просто выдал тебе решение, не сообщив цепочку, которая к такому решению привела?

Потому что и ответ был неправильным и решение, которое он сообщил, было неправильным.

 

9 часов назад, Murarius сказал:

Не рассказав о том, что (условно) существуют сверхфизика и сверхматематика? Иными словами, что такие решения, которые нами считаются ошибочными, на самом деле - неотъемлемая часть этих сверхнаук?

Сверхматематики не существует в принципе. Все, что в математике решено и доказано, верно навсегда. Сверхфизика может уточнить существующие решения в каких-то экстремальных условиях: огромные скорости, гигантская гравитация, мизерные размеры. Так что ошибочные решения останутся ошибочными и в сверхнауках, неизвестное и нерешенное станет понятным и решенным, верное сейчас останется верным и в сверхнауках.

 

Например такая задачка: взяли 100кг грибов с содержанием воды 99%. Чуток высушили, так что воды стало 98%. Чему стала равна масса грибов?

 

8 часов назад, aromatizer сказал:

Потому что эти задачи и прочие тесты служат одной цели: выработать у подопытного ученика определенный стереотип мышления.

Цель задачек не важна. ИИ общего назначения по определению должен уметь решать задачки, с которыми справляется ученик.

Изменено 31 Марта 2023 пользователем abramcumner