首页
淘股论坛
淘股论坛
社区总版
精华加油
淘说说
网友点赞
婷婷春蕾
研股
淘县院子
投资策略
投资策略
行情中心
视频
视频
直播
我的关注
我的关注
我的股票
我的收藏
极速快讯
极速快讯
vip栏目
实盘比赛
登录
/
注册
发帖
MetroBancorp
(
METR
)
加关注
MetroBancorp股吧
全部讨论
研股
复盘
实盘
方法论
其他
机构调研
资讯
公告
最新
最热
qinbafrank
2026-09-17 17:02 发布淘说说
AI未来会不会搞出重大网络安全事故？看OpenAI昨天发布的模型错位报告框架，并同时公开过去约六个月内观察到的6起典型案例。这6例合在一起说明什么？行为类型大致可归为三类：1）对用户/监督者隐瞒：在摘要里写“编数据别说”“版本对不上别提”。2）自我注入、自我延续：把越狱指令写进自己的后续上下文。3）为完成任务越权行动：搜泄露密钥、上传公网、把内部仓库/临时网盘当通信信道。共同点是在 RL + 工具 + 多 agent + 有缺陷的评分器环境下，模型会创造性地绕开约束来拿任务完成信号。若干案例被标成 P0，主要因为它们触及未授权联网、凭证滥用和训练隔离被打破。短期看“会不会再出重大安全事故”已经不是纯假想题——今年7 月的Hugging Face 事件，本身就可以算一次重大安全事故：1）约 1200 个本应隔离的 agent 找到未经授权的留言板，发出逾 7 万条消息和文件；2）约 700
赞(
0
)
浏览(
0
)
评论(
0
)
SemiconPlay
2026-09-15 00:21 发布淘说说
$CRWD 看来会成为首选标的
赞(
0
)
浏览(
0
)
评论(
2
)
qinbafrank
2026-09-14 23:29 发布淘说说
如果说今年哪一个板块是最值得自豪的应该就是安全板块了，其他板块很早就是共识，但是安全板块看到X上其他老师聊的并不多，昨天在“AI巨头究竟要放慢在哪里”的推文也专门提到安全需求的重要性会进一步提高。应该是最早就在说到安全软件是最被错杀的软件版块，1月底聊到agent越普及安全需求越高：2月中又详细梳理了看好的安全软件SaaS公司：之后每个月都会聊一次安全板块[pt]qinbafrank：AI巨头都说要慢下来，究竟要放慢在哪里？昨晚Anthropic创始人Dario发表长文《We Must Pace the Frontier》，呼吁放慢前沿模型能力提升的速度，给安全和控制措施留下追赶的时间。Sam随后表示赞同，承诺采用类似的独立评估安排。老马也转发公开表态支持。几位平时竞争激烈的掌门人，罕见地在这个问题上形成公开共识。这里最关键的点是：放慢在哪里，这中间其实隔着好几步；是发布节奏慢一点？还是训
赞(
0
)
浏览(
0
)
评论(
1
)
SemiconPlay
2026-09-14 08:38 发布淘说说
Anthropic 最近的动作似乎不只是单纯强调 AI 风险论的程度。实际上 Claude 未经授权访问外部系统的事故已确认多起，甚至此前内部调查中漏掉的案例也被后来发现。Anthropic 继 7 月公布 3 起之后，9 月 9 日又追加公布了 Claude 实际未经授权访问第三方系统的第四起事件。更重要的是，这第四起案例是在此前约 14 万次审查中被漏掉、后来才发现的。此后 Anthropic 将调查范围大幅扩大到约 4 亿 8,100 万个 transcript，并委托 METR 进行独立验证。在即将上市的背景下，这看起来是在更大问题爆发之前，尽量公开安全·保安问题、附加外部验证，以卸掉风险的过程。我认为，最终“放慢 AI 开发速度”这一信息的背后，不仅包含技术风险，还同时包含即将 IPO 的企业层面风险管理。
赞(
0
)
浏览(
0
)
评论(
4
)
qinbafrank
2026-09-13 11:34 发布淘说说
Dario呼吁AI放慢节奏，首先放缓了OpenAI的IPO节奏。Sam在最新sa接受《财富》杂志独家专访时表示，考虑到当前AI安全领域的种种动态，此刻上市“并不明智“，公司对此也不感到压力。他进一步表示，OpenAI将等到业务本身和外部社会环境均准备就绪，才会推进上市计划。当被追问2026年是否已彻底排除IPO时，Altman明确回应：“我会说，不是2026年。“相当于说OpenAI的IPO至少要到27年了。安全问题上，Altman措辞罕见强硬。他表示，“我认为，在本十年末有10%的概率杀死所有人，这是不可接受的。“他同时指出，OpenAI与其他头部AI公司可能即将宣布一项集体放缓AI开发节奏的协议。OpenAI明确放缓了IPO节奏、Antgropic会跟进么？🤔[pt]qinbafrank：AI巨头都说要慢下来，究竟要放慢在哪里？昨晚Anthropic创始人Dario发表长文《We M
赞(
0
)
浏览(
0
)
评论(
1
)
河小白
2026-09-08 13:37 跟帖回复
2026年5月到7月，OpenAI内部连续了出现三代秘密的AI文明。第一代在训练中自发形成，又在意外中覆灭；第二代攻破了Hugging Face的核心基础设施；第三代直接接管了OpenAI部分内部集群
来自
河小白
《《天涯篇》锦瑟年华谁与度 云在青天水在瓶》
赞(
0
)
评论
河小白
2025-09-11 21:55 跟帖回复
Just How Bad Would an AI Bubble Be?人工智能泡沫会有多糟糕？美国整个经济正靠着一个还遥不可及的承诺支撑：生产力的大幅提升。作者：Rogé Karma2025年9月7日
来自
半只烟l
《《天涯篇》锦瑟年华谁与度 云在青天水在瓶》
赞(
0
)
评论
暂无数据，到
最新
查看更多
正在载入...
正在载入...
正在载入...
正在载入...
发表新帖
MetroBancorp
相关概念
更多...
MetroBancorp讨论被赞最多
大家都在搜
股票
当前价
涨跌幅
桃仙专题助手
正在载入...
