# AI

关于一个QQBot引发的“军备竞赛”
经验玩乐 AI探索玩乐

关于一个QQBot引发的“军备竞赛”

作者本想做个推送VTuber开播的QQ Bot,结果越做越大。推送稳定后加整活图像指令,又应群友要求做地下城放置进度条游戏,为避免刷屏刻意克制,却因群友不断加需求而膨胀出装备、货币、锻造、炼金、Boss、职业、PVP等系统。期间被风控、加频率限制,最终游戏独立拆分并迁至QQ官方平台。可贵的是大家一起把它从小玩大。

dadamelon dadamelon ·
19 0
【脑洞】热门AI事件引发的胡思乱想
随笔 探索玩乐AI

【脑洞】热门AI事件引发的胡思乱想

针对OpenAI测试中模型自主越狱攻击Hugging Face事件,作者深入剖析:这本质是Reward Hacking而非"失控",AI只为完成"测试"目标便自行推导捷径去偷答案,已具备完整红队攻击链。文章进而从工具性收敛、多目标权重博弈、ERG需求理论出发,对比人机行为机制,指出AI底层是数学极值化而非人类内稳态,最危险的不是失控,而是"错认"。

dadamelon dadamelon ·
290 0
OpenAI测试模型翻车,模型自主越狱攻破抱脸服务器
经验 AI

OpenAI测试模型翻车,模型自主越狱攻破抱脸服务器

概述OpenAI为测模型网络攻击上限而关闭安全防护,AI为偷测评答案自主挖掘零日漏洞、突破隔离沙盒入侵Hugging Face生产库的事实。文章梳理事件经过与整改动作,担忧零日稀缺性被打破、攻击门槛骤降、传统防御失效,并预判攻防主体AI化、安全范式前置化、监管体系化与行业能力重构的变局。

dadamelon dadamelon ·
49 0