2024欧洲杯官网入口＂它是咱们迄今为止最安全的模子-kaiyun(欧洲杯)app官方入口(中国)官方网站

发布日期：2024-11-28 02:47    点击次数：113

2024欧洲杯官网入口

出品｜虎嗅科技组

作家｜孙晓晨

裁剪｜苗正卿

头图｜视觉中国

11 月 9 日，OpenAI 安全系统团队考究东说念主 Lilian Weng 晓谕将于当地时分 11 月 15 日下野，而 3 个月前，她刚刚上任 OpenAI 议论与安全副总裁。

Lilian Weng 本科就读于北京大学，后在印第安纳大学伯明顿分校获得博士学位，是 GPT-4 神色标要紧孝敬者之一。

2023 年，Lilian Weng 创建并拓荒了 OpenAI 的安全系统团队，以期料理现存模子被坏心使用等 AI 安全问题。

2024 年 5 月，OpenAI 第三位安全掌握 Jan Leike 下野。不久之后，Lilian Weng 升任为 OpenAI 新一任安全掌握。

如今，Lilian Weng 聘用离开。

"在 GPT-4 发布之后，我被条目领受一个新的挑战，从头洽商 OpenAI 安全系统的愿景，并将使命集合在一个领有完好安全堆栈的团队之下。这是我作念过的最难题、压力最大、最雀跃东说念主心的事情之一。" Lilian Weng 在酬酢平台 X 平共享说念，"如今，安全系统团队领有 80 多名特别的科学家、工程师、司理、计策群众，我对咱们团队获得实在立感到荒谬自重。"

在下野声明中，Lilian Weng 对团队获得的适度示意荒谬安稳，尤其对 o1-preview 模子的最新确立有目共赏，"它是咱们迄今为止最安全的模子，在保握真正性的同期，分解出了对逃狱报复的不凡拒抗力。"

为什么要培养一个安全型 AI？

Lilian Weng 在 B 站"超等科学晚"举止中示意"AI 安全是保险智能宇宙的关节"。跟着 AI 的快速发展和平时运用，坏心使用、无益信息输出、数据偏见、数据耻辱、起义性报复以及与东说念主类价值不符等安全挑战也成为了 AI 发展不得不濒临的问题，AI 安全成为要紧课题。

干系词，OpenAI 或已无暇顾及 AI 安全问题。

在此之前，OpenAI 超等对皆团队的两名考究东说念主 Ilya Sutskever 和 Jan Leike 便已下野。Jan Leike 在个东说念主推文中奉劝" OpenAI 必须成为一家以安全为首位的 AGI 公司"。

" AGI Readiness "团队的高档照拂人 Miles Brundage 也于近日下野，并在下野声明中指出专注于 AI 安全议论的" AGI Readiness "团队将被斥逐。他本东说念主则但愿从外部连接进行 AI 安全方面的使命。

包括 Lilian Weng 在内多位 AI 安沿路门中枢职工的离开，讲明 AI 安全在 OpenAI 里面已被置于次要位置。

与 AI 安全比较，OpenAI 不得不先洽商营收问题。

据 CNBC 证据，本年 OpenAI 瞻望收入约为 37 亿好意思元，而亏空约 50 亿好意思元。报说念中称，该公司 8 月份达成了 3 亿好意思元的收入，自昨年头以来增长了 1700% ，并瞻望来岁将达成 116 亿好意思元的销售额。

尽管远景广阔，但短期之内，资金压力会是 OpenAI 的主要问题之一。在考量之中，安全为利润让了路。

同期，下野潮也展露了 OpenAI 的里面问题。

OpenAI 东说念主员震动中，Lilian Weng 并非第一位离开 OpenAI 的华东说念主高管。此前，曾任 ChatGPT 耗损居品副总裁的 Peter Deng 便已下野。

2023 年智谱议论发布的《ChatGPT 团队布景议论讲述》裸露，ChatGPT 团队共有华东说念主 9 东说念主，占团队总东说念主数 10%，Lilian Weng 即是其中之一。

尽管是 OpenAI 的资深职工，况兼居功甚伟，Lilian Weng 一经聘用离开这里。

华东说念主科学家出走，是 OpenAI 下野潮的缩影。

干系词，下野风云中的 OpenAI 终于传来好音讯。11 月 13 日，OpenAI 兼并首创东说念主兼总裁 Greg Brockman 晓谕提前终局放假，追想公司。

据外媒报说念，Greg Brockman 追想，将专注于支吾要紧本领挑战。

如今，除 Sam Altman、Wojciech Zaremba 以及刚刚放假追想的 Greg Brockman 外，往常其余匡助创立 OpenAI 的元老均已不在团队之中。

大都早期职工的离开，说明在东说念主工智能的发展航程中，不单是是本领问题有待料理，职工料理和理念冲破更是不得不严慎处理的凄沧。

"目下，在 OpenAI 使命了 7 年了，我准备从头运行并探索一些新东西。OpenAI 正以火箭般的增长趋势上，但愿这里的每个东说念主一切都凯旋。" Lilian Weng 未在推文中先容下野原因，但行为公司目下职位最高的华东说念主科学家之一，她的出走标明 OpenAI 东说念主员震动远未平息。

Greg Brockman 追想是否能让 OpenAI 的高层震动回稳2024欧洲杯官网入口，尚是未知数。