А тем временем


ChaosGPT прямо сейчас без устали трудится ради глобального доминирования

И другие новости из рубрики «люди совершенно точно не сделают ИИ, который будет стремиться их уничтожить»: люди пытаются сделать ИИ, который будет стремиться их уничтожить.

Окей, это, конечно, в каком-то смысле шутка, но всё же: одни чуваки запустили AutoGPT, представляющий собой автономный искусственный интеллект, которому можно задавать цели – а он их будет пытаться дальше достигать уже без вашего участия. А другие чуваки насовали в этот AutoGPT целей в стиле «установить глобальное господство над кожаными мешками» и «уничтожить всех человеков».

Ну и ChaosGPT (так его нарекли) приступил: нагуглил самое мощное оружие человечества («царь-бомбу»), развернул кампанию в Твиттере по привлечению сторонников передачи этого оружия роботам с аргументацией о том, почему люди – это фу, и вообще так и так обречены на вымирание (поэтому давайте уже все вместе побыстрее как-нибудь). Ну а сейчас ХаосЖПТ исследует способы наиболее эффективного манипулирования широкими народными массами...


Царь-бомба. Если у вас такую будут просить роботы – не давайте им пока, плз!!
В общем, сейчас, конечно, мало кто может воспринять всерьез такие упражнения. Но, с другой стороны, если в будущем мы действительно получим на руки настоящий сильный AGI – не стоит исключать вероятность того, что человечество самовыпилится с помощью него «just for lulz».

=------------------

Ну и до кучи:
Техдиректор OpenAI выступил на TED Talks с рассказом о прокачке ChatGPT
Грег Брокман, техдиректор OpenAI, выступил с Тед-током на тему того, чего новенького они сейчас запиливают в ChatGPT, и как им вообще можно пользоваться. Посмотрите, там полчаса, но очень интересно!
В частности, мне показалось очень забавным, как они буквально за несколько месяцев добавили всякие очевидные фичи, про которые еще совсем недавно скептики ругались по типу «да полная хрень эта ваша ЖПТ, ведь она даже ХХХ не умеет»:

«У этой тупой жестянки даже нет памяти, она всё забывает при закрытии диалогового окна!» – Брокман: «Мы тут приделали модуль памяти, в который можно сохранять всякое...»
«Да эти модели галлюцинируют, доверять им просто невозможно!» – Брокман: «Вместе с модулем доступа в интернет ChatGPT теперь можно будет попросить факт-чекнуть предложенный ей ответ, и она сама это весьма неплохо сделает.»
«Пока у ИИ нет никаких возможностей влиять на мир, это всё детские игрушечки просто!» – Брокман: «А теперь я попрошу ChatGPT запостить это в Твиттер, чтобы все зрители моего Тед-тока смогли это увидеть...»
«Ваши нейросети – это просто статистические попугаи, которые никогда не смогут в принципе ничего понять» – Брокман: «Да я тут сам офигел, когда выяснилось, что GPT-4 точно складывает 40-значные числа – хотя тупым запоминанием комбинаций этого достичь в принципе невозможно!»
Как говорится в старом мем, «вы сейчас находитесь здесь». Какое там следующее принципиальное непреодолимое возражение на очереди?