防范AI风险给CEO上“紧箍咒”！OpenAI指引允许董事会阻止CEO发布新模型_老虎社区_美港股上老虎

防范AI风险给CEO上“紧箍咒”！OpenAI指引允许董事会阻止CEO发布新模型

华尔街见闻2023-12-19

OpenAI发布一系列指引，旨在跟踪、评估、预测和防范AI模型带来“灾难性风险”，其规定，只有风险缓解后评级为“中”或以下级别的AI模型，才能部署，若风险缓解后评级不能降至“高”或以下，就会停止开发模型。OpenAI将新建一个团队反复评估其尚未发布的最先进模型处于何种风险级别，CEO等公司领导层可根据该团队的报告决定是否发布AI模型，董事会有权推翻他们的决定。为了防范人工智能（AI）带来的重大风险...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

暂无评论

热议股票

7x24

全部

关于我们·老虎社区守则·老虎社区账号管理规范·老虎社区服务协议·老虎社区隐私政策

公司名称：北京至简风宜信息技术有限公司

违法和不良信息投诉：010-5681-3562（工作时间9:30-18:30）

邮箱：service@laohu8.com

营业执照：91110105MA01A4U55R

ICP备：京ICP备18016422号

网安备：京公网安备11010502036490

关注我们

{"i18n":{"language":"zh_CN"},"data":{"share":"https://www.laohu8.com/m/news/1118005031?lang=zh_CN&edition=full","thumbnail":"https://static.tigerbbs.com/f5a990699e464d5a6bad09dea02f192d","is_english":false,"pubTime":"2023-12-19 06:28","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"1118005031","market":"us","top_or_hot":-1,"title":"防范AI风险给CEO上“紧箍咒”！OpenAI指引允许董事会阻止CEO发布新模型","media":"华尔街见闻","content":"<div>\n<p>OpenAI发布一系列指引，旨在跟踪、评估、预测和防范AI模型带来“灾难性风险”，其规定，只有风险缓解后评级为“中”或以下级别的AI模型，才能部署，若风险缓解后评级不能降至“高”或以下，就会停止开发模型。OpenAI将新建一个团队反复评估其尚未发布的最先进模型处于何种风险级别，CEO等公司领导层可根据该团队的报告决定是否发布AI模型，董事会有权推翻他们的决定。为了防范人工智能（AI）带来的重大风险...</p>\n\n<a href=\"\">网页链接</a>\n\n</div>\n","source":null,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>防范AI风险给CEO上“紧箍咒”！OpenAI指引允许董事会阻止CEO发布新模型</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n防范AI风险给CEO上“紧箍咒”！OpenAI指引允许董事会阻止CEO发布新模型\n</h2>\n\n<h4 class=\"meta\">\n\n2023-12-19 06:28 北京时间&nbsp;&nbsp;&nbsp;<strong>华尔街见闻</strong>\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>OpenAI发布一系列指引，旨在跟踪、评估、预测和防范AI模型带来“灾难性风险”，其规定，只有风险缓解后评级为“中”或以下级别的AI模型，才能部署，若风险缓解后评级不能降至“高”或以下，就会停止开发模型。OpenAI将新建一个团队反复评估其尚未发布的最先进模型处于何种风险级别，CEO等公司领导层可根据该团队的报告决定是否发布AI模型，董事会有权推翻他们的决定。为了防范人工智能（AI）带来的重大风险...</p>\n\n<a href=\"\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":null,"symbol_name":null,"start_time":0,"source_url":"","article_id":"1118005031","we_media_id":"1084101182","thumbnails":["https://static.tigerbbs.com/f5a990699e464d5a6bad09dea02f192d"],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=1118005031","pubTimestamp":1702938492,"columns":[],"sourceInfo":null,"weMediaInfo":{"media_name":"华尔街见闻","introduction":"追踪全球财经热点，精选影响您财富的资讯，投资理财必备神器！","home_visible":1,"id":"1084101182","head_image":"https://static.tigerbbs.com/66809d1f5c2e43e2bdf15820c6d6897e"},"summary":"OpenAI将新建一个团队反复评估其尚未发布的最先进模型处于何种风险级别，CEO等公司领导层可根据该团队的报告决定是否发布AI模型，董事会有权推翻他们的决定。为了防范人工智能带来的重大风险，OpenAI决定赋予董事会在安全监管方面更高的权力，给上月刚刚在“宫斗”中获胜的CEOSam Altman上“紧箍咒”。其认为，虽然OpenAI 的CEO将负责日常工作的决策，但董事会将了解有关风险的发现，并可以否决CEO的决定。OpenAI将处理安全问题的工作人员分为三个团队。","collect":0,"end_time":0,"defaultTopTitle":"","property":[],"viewcount":null,"language":"zh","relate_stocks":{},"translate_title":"Prevent AI risks and put a \"tightening spell\" on CEO! OpenAI guidelines allow boards to block CEO releases of new models","themeId":"","isJumpTheme":false,"ttsUrl":"https://static.tigerbbs.com/ca217c5a1acc2bdab13638b440011c08","symbols_score_info":{},"content_text":"OpenAI发布一系列指引，旨在跟踪、评估、预测和防范AI模型带来“灾难性风险”，其规定，只有风险缓解后评级为“中”或以下级别的AI模型，才能部署，若风险缓解后评级不能降至“高”或以下，就会停止开发模型。OpenAI将新建一个团队反复评估其尚未发布的最先进模型处于何种风险级别，CEO等公司领导层可根据该团队的报告决定是否发布AI模型，董事会有权推翻他们的决定。为了防范人工智能（AI）带来的重大风险，OpenAI决定赋予董事会在安全监管方面更高的权力，给上月刚刚在“宫斗”中获胜的CEO Sam Altman上“紧箍咒”。OpenAI美东时间12月18日周一发布一系列指引，旨在“跟踪、评估、预测和防范日益强大的（AI）模型带来灾难性风险”。OpenAI的所谓“灾难性风险”是指，“可能导致数千亿美元经济损失或导致多人严重伤害或死亡的任何风险”。这个27页篇幅的指引名为“准备框架”，其中提出，即使公司领导层、即CEO或领导层指定的人认为将发布的AI模型是安全的，公司董事会也可以选择推迟发布该模型。其认为，虽然OpenAI 的CEO将负责日常工作的决策，但董事会将了解有关风险的发现，并可以否决CEO的决定。除了对公司领导层和董事会的权限规定，OpenAI的准备框架主要建议，使用矩阵方法，记录多个类别的前沿AI模型所带来的风险水平，包括行为不端者用AI模型创建恶意的软件、发起社会工程攻击，或者传播有害的核武或生物武器信息。具体来说，OpenAI定义了网络安全、CBRN（化学、生物、放射、核威胁）、说服和模型自主四个类别的风险阈值，在针对每个风险类别实施缓解风险措施之前和之后，OpenAI 都会将每种风险分为低、中、高或严重四个类级别。OpenAI规定，只有风险缓解后评级为“中”或以下级别的AI模型，才能部署，只有风险缓解后评级为“高”或以下的模型，才能进一步开发，如果不能将风险降低到严重以下级别，公司将停止开发模型。对于缓解风险以前被评为高风险或严重风险的模型，OpenAI还将实施额外的安全措施。OpenAI将处理安全问题的工作人员分为三个团队。其中，安全系统团队专注于减轻和解决GPT-4等当前的产品带来的风险，超对齐团队关注能力超越人类的未来系统带来的问题，还有一个名为准备的新团队，由将从麻省理工学院（MIT）离职的该校电气工程与计算机科学系（EECS）教授Aleksander Madry领导。新团队将在强大的模型开发和实施时对其进行评估，将专门监督有关安全方面决策的技术性工作和操作架构，它将推动技术工作，从而审查前沿模型能力的限制、进行评估并综合相关报告。Madry称，他的团队将反复评估OpenAI最先进的、尚未发布的AI模型处于何种风险级别，每月向OpenAI内部的安全顾问组织（SAG）发送报告，SAG将分析Madry团队的工作，并向CEO Altman和公司董事会提出建议。本周一公布的指引文件说明，Altman和他的领导班子可以根据这些报告决定是否发布新的AI系统，但董事会有权推翻他们的决定。包括Madry在内，目前他的团队只有四人，他在积极招募忍受，预计团队成员会达到15到20人，和现有安全团队以及超对齐团队的人数相当。Madry希望其他AI公司采用类似的方式评估旗下模型的风险，并预计这可能成为监管的典范。","kind":"news","is_publish_news":false,"is_publish_highlight":true,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":0},"commentList":[],"hasMoreComments":false,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":1,"likeStatus":false,"favoriteStatus":false}}