当前位置:云计算行业动态 → 正文

D1net阅闻:大模型伪装潜伏特工学会欺骗!OpenAI劲敌的重磅研究震惊马斯克

责任编辑:cres |来源:企业网D1Net  2024-01-16 09:57:21 原创文章 企业网D1Net

大模型伪装潜伏特工学会欺骗!OpenAI劲敌的重磅研究震惊马斯克
 
最近,AI初创公司Anthropic的研究表明,一旦LLM学会了人类教授的欺骗行为,它们就会在训练和评估的过程中隐藏自己,并在使用时偷偷输出恶意代码、注入漏洞,而且,规模越大,LLM思考得就越全面,并且,在思维链的加持下,LLM还能隐藏得更深,更能麻痹人类,更可怕的是,即便在后期进行安全训练也很难消除,甚至,这些试图纠正模型的方法,还会让它更加变本加厉。此研究一出,马斯克都在评论区惊呼:不可能吧!
 
100亿元北京机器人产业发展投资基金注册落地
 
目标规模为100亿元的北京机器人产业发展投资基金日前注册落地,加速布局北京人形机器人未来产业,打造机器人产业综合集聚区。据了解,北京市此次设立500亿元政府投资基金,聚焦医药健康、人工智能、机器人和信息四大产业,其中北京机器人产业发展投资基金目标规模为100亿元,注册落地在北京经济技术开发区。该基金将围绕国家及北京市机器人产业相关领域战略性布局开展直接股权投资,重点投向机器人本体、产业链零部件、产业链创新应用等领域。
 
三星电子和海力士将投资4710亿美元到2047年建设16座芯片厂
 
据韩国产业部声明,韩国计划要在首尔附近建设世界上最大的半导体产业集群,到2047年将投资总计622万亿韩元,建立16座芯片工厂。三星电子将在龙仁芯片厂投资360万亿韩元,在平泽的系统和芯片厂投资120万亿韩元,在器兴的内存研发工厂投资20万亿韩元。SK海力士将在龙仁投资122万亿韩元生产内存芯片。该集群将生产HBM、PIM和其他尖端芯片,总产能估计为每月770万片晶圆。
 
国办:推广应用智能护理机器人、家庭服务机器人 大力发展康复辅助器具产业
 
国务院办公厅印发《关于发展银发经济增进老年人福祉的意见》。聚焦多样化需求,培育潜力产业。强化老年用品创新,打造智慧健康养老新业态,推广应用智能护理机器人、家庭服务机器人,大力发展康复辅助器具产业。发展抗衰老产业,推动生物技术与延缓老年病深度融合,开发老年病早期筛查产品和服务。
 
瑞萨拟3.39亿美元收购Transphorm加码氮化镓赛道
 
1月11日,日本半导体大厂瑞萨电子发布公告称,已经和氮化镓功率半导体供应商Transphorm达成协议,将以每股5.10美元进行收购,此次交易对Transphorm的估值约为3.39亿美元,预计将于2024年下半年完成。瑞萨电子表示,收购将为瑞萨电子提供GaN(功率半导体的下一代关键材料)的内部技术,从而扩展其在电动汽车、计算(数据中心、人工智能、基础设施)、可再生能源、工业电源以及快速充电器/适配器等快速增长市场的业务范围。
 
中企慧云完成3000万人民币融资
 
中企慧云是一家数据链及供应链平台技术开发服务商。通过整合公域产业资讯数据和私域行业研究数据,依托自行研发的数据平台,围绕政府、企业为主的客户构建产业要素知识图,为客户挖掘、分析产业信息、辅助决策等提供数据链、供应链平台的技术开发服务。近日,中企慧云完成3000万人民币融资,投资方为新开源制药,占比10%。投后估值3亿人民币。

关键字:大模型AI机器人

原创文章 企业网D1Net

x D1net阅闻:大模型伪装潜伏特工学会欺骗!OpenAI劲敌的重磅研究震惊马斯克 扫一扫
分享本文到朋友圈
当前位置:云计算行业动态 → 正文

D1net阅闻:大模型伪装潜伏特工学会欺骗!OpenAI劲敌的重磅研究震惊马斯克

责任编辑:cres |来源:企业网D1Net  2024-01-16 09:57:21 原创文章 企业网D1Net

大模型伪装潜伏特工学会欺骗!OpenAI劲敌的重磅研究震惊马斯克
 
最近,AI初创公司Anthropic的研究表明,一旦LLM学会了人类教授的欺骗行为,它们就会在训练和评估的过程中隐藏自己,并在使用时偷偷输出恶意代码、注入漏洞,而且,规模越大,LLM思考得就越全面,并且,在思维链的加持下,LLM还能隐藏得更深,更能麻痹人类,更可怕的是,即便在后期进行安全训练也很难消除,甚至,这些试图纠正模型的方法,还会让它更加变本加厉。此研究一出,马斯克都在评论区惊呼:不可能吧!
 
100亿元北京机器人产业发展投资基金注册落地
 
目标规模为100亿元的北京机器人产业发展投资基金日前注册落地,加速布局北京人形机器人未来产业,打造机器人产业综合集聚区。据了解,北京市此次设立500亿元政府投资基金,聚焦医药健康、人工智能、机器人和信息四大产业,其中北京机器人产业发展投资基金目标规模为100亿元,注册落地在北京经济技术开发区。该基金将围绕国家及北京市机器人产业相关领域战略性布局开展直接股权投资,重点投向机器人本体、产业链零部件、产业链创新应用等领域。
 
三星电子和海力士将投资4710亿美元到2047年建设16座芯片厂
 
据韩国产业部声明,韩国计划要在首尔附近建设世界上最大的半导体产业集群,到2047年将投资总计622万亿韩元,建立16座芯片工厂。三星电子将在龙仁芯片厂投资360万亿韩元,在平泽的系统和芯片厂投资120万亿韩元,在器兴的内存研发工厂投资20万亿韩元。SK海力士将在龙仁投资122万亿韩元生产内存芯片。该集群将生产HBM、PIM和其他尖端芯片,总产能估计为每月770万片晶圆。
 
国办:推广应用智能护理机器人、家庭服务机器人 大力发展康复辅助器具产业
 
国务院办公厅印发《关于发展银发经济增进老年人福祉的意见》。聚焦多样化需求,培育潜力产业。强化老年用品创新,打造智慧健康养老新业态,推广应用智能护理机器人、家庭服务机器人,大力发展康复辅助器具产业。发展抗衰老产业,推动生物技术与延缓老年病深度融合,开发老年病早期筛查产品和服务。
 
瑞萨拟3.39亿美元收购Transphorm加码氮化镓赛道
 
1月11日,日本半导体大厂瑞萨电子发布公告称,已经和氮化镓功率半导体供应商Transphorm达成协议,将以每股5.10美元进行收购,此次交易对Transphorm的估值约为3.39亿美元,预计将于2024年下半年完成。瑞萨电子表示,收购将为瑞萨电子提供GaN(功率半导体的下一代关键材料)的内部技术,从而扩展其在电动汽车、计算(数据中心、人工智能、基础设施)、可再生能源、工业电源以及快速充电器/适配器等快速增长市场的业务范围。
 
中企慧云完成3000万人民币融资
 
中企慧云是一家数据链及供应链平台技术开发服务商。通过整合公域产业资讯数据和私域行业研究数据,依托自行研发的数据平台,围绕政府、企业为主的客户构建产业要素知识图,为客户挖掘、分析产业信息、辅助决策等提供数据链、供应链平台的技术开发服务。近日,中企慧云完成3000万人民币融资,投资方为新开源制药,占比10%。投后估值3亿人民币。

关键字:大模型AI机器人

原创文章 企业网D1Net

电子周刊
回到顶部

关于我们联系我们版权声明隐私条款广告服务友情链接投稿中心招贤纳士

企业网版权所有 ©2010-2024 京ICP备09108050号-6 京公网安备 11010502049343号

^