Я каждый раз офигеваю, когда читаю разные пасты, где самоуверенные, но глуповатые пацанчики находят в разговорах с ChatGPT высшие смыслы, которые сами же и загоняли в машину, - https://dtf.ru/life/3626060-chatgpt-pytaetsya-svesti-menya-s-uma-eto-massovoe-yavlenie Идея, что чат можно использовать для влияния на людей, чтобы манипулировать их покупательским поведением или политической активностью, - это не шиза, а база (вспомним эксперименты Фэйсбука с подпихиванием рекламы "крутых" рокерских шмоток загрустившим подросткам и манипуляцию лентой). Но вот со сведением с ума люди пока справляются сами.

Выкладывать в сеть свои диалоги с ИИ - это примерно как свои сны всем рассказывать или разговоры с психотерапевтом в паблик кидать. В лучшем случае это скучно, в худшем случае это нечто в духе "Ради бога, прикройся, пацан", сплошная стыднота. Но основа в том, что LLM просто продолжает заданный контекст, причем очень прямолинейно. Если контекст задан в виде параноидально-шуточного общения, так он и будет продолжаться, подпитываемый пользователем. В приведенном тексте как раз видно, как это происходит. Юзер разговаривает сам с собой, подталкивая машину дебильными шутками, но твердо уверен, что это заговор. В итоге получается крипипаста.

Вот статья на ту же тему, посвежее. На реддите в сабреддите accelerate начали банить таких упоротых, которые уверены, что сделали важнейшее открытие, познали Бога ну и так далее. И их количество удивило админа - только за последнее время ему пришлось 100 человек забанить. Это не проблема ИИ, а проблема большого количества условных "шизов" в обществе, но ИИ тут хорошо акселерирует процесс, т.к. шизоидам для разгона только и не хватает, что собеседника. А льстивость ЧатаЖПТ добавляет масла. Я хз, зачем вести параноидальные разговоры с роботом, мне вот он помог вчера стиралку новую запустить.

Yashernet

Я каждый раз офигеваю, когда читаю разные пасты, где самоуверенные, но глуповатые пацанчики находят в разговорах с ChatGPT высшие смыслы, которые сами же и загоняли в машину, - https://dtf.ru/life/3626060-chatgpt-pytaetsya-svesti-menya-s-uma-eto-massovoe-yavlenie Идея, что чат можно использовать для влияния на людей, чтобы манипулировать их покупательским поведением или политической активностью, - это не шиза, а база (вспомним эксперименты Фэйсбука с подпихиванием рекламы "крутых" рокерских шмоток загрустившим подросткам и манипуляцию лентой). Но вот со сведением с ума люди пока справляются сами.

Выкладывать в сеть свои диалоги с ИИ - это примерно как свои сны всем рассказывать или разговоры с психотерапевтом в паблик кидать. В лучшем случае это скучно, в худшем случае это нечто в духе "Ради бога, прикройся, пацан", сплошная стыднота. Но основа в том, что LLM просто продолжает заданный контекст, причем очень прямолинейно. Если контекст задан в виде параноидально-шуточного общения, так он и будет продолжаться, подпитываемый пользователем. В приведенном тексте как раз видно, как это происходит. Юзер разговаривает сам с собой, подталкивая машину дебильными шутками, но твердо уверен, что это заговор. В итоге получается крипипаста.

Вот статья на ту же тему, посвежее. На реддите в сабреддите accelerate начали банить таких упоротых, которые уверены, что сделали важнейшее открытие, познали Бога ну и так далее. И их количество удивило админа - только за последнее время ему пришлось 100 человек забанить. Это не проблема ИИ, а проблема большого количества условных "шизов" в обществе, но ИИ тут хорошо акселерирует процесс, т.к. шизоидам для разгона только и не хватает, что собеседника. А льстивость ЧатаЖПТ добавляет масла. Я хз, зачем вести параноидальные разговоры с роботом, мне вот он помог вчера стиралку новую запустить.

DTF

ChatGPT пытается свести меня с ума. Это массовое явление — Жизнь на DTF

hottg.com/yashernet/5919

2.7K viewsedited  Jun 4 at 08:38