今天有哪些最【硬】的【AI】新闻？
1、“天气乱报”有救了，华为云推出【盘古气象大模型】
天气预报，经常被网友戏称“天气乱报”，原因很简单：气象科学属于预测科学，本身就有一定的不确定性。
不过，都是AI时代了，有没有办法提高气象预测准确度？
华为云曰：有！最近，咱就专门为天气预报“量身定制”了一个【盘古气象大模型】，速度比传统方法快1万倍、秒级完成对全球气象预测，直接登上了Nature！
具体来看啊，原来预报不准问题在于：
- 气象预报是基于2D神经网络，无法处理3D气象数据；
- 预报方法缺少约束机制，从而在预测模型迭代过程中会不断累计误差；
针对这些问题，【盘古大模型】做出了这些优化：
- 提出了用3D Earth-Specific Transformer（3DEST）来处理复杂的不均匀3D气象数据；
- 使用层次化时域聚合策略，训练了4个不同预报间隔的模型：分别为1小时间隔、3小时间隔、6小时间隔、24小时间隔，以减少计算迭代误差。
【硬不硬】
盘古大模型，很好的解决了原本气象预测不准的两个主要问题；
模型预测准确性的制约，在于算力——毕竟，训练参数体量越大，结果生成对算力的要求越高。而气象数据基本上都是以小时为单位的，所以需要非常充足的算力支撑。
（利好谁?）
2、根本抵挡不住！牛津、剑桥等解除对ChatGPT禁令，还发布五项使用原则
作为“论文神器”，ChatGPT引发了各大教育机构的恐慌，不少学校直接选择“一刀切”，ban掉ChatGPT，连牛津、剑桥这两所顶尖学府也不例外……
不过，最近他们发现了：根本挡不住啊！
本着“打不过就加入”的原则，牛津、剑桥、伯明翰、爱丁堡等24所罗素大学集团成员正式允许在教育中使用生成式AI工具。
不过嘛，他们还规定了五项使用原则：
1、大学将支持学生和教职员工，建立良好的人工智能素养。
2、教职人员应具备能力支持学生在学习过程中，有效、适当地使用生成式AI工具。
3、大学将调整教学和评估，以纳入生成式AI的道德使用并支持平等机会。
4、大学将确保学术严谨性和诚信得到维护。
5、随着生成式AI在教育中的应用深入，大学之间将合作、分享最佳实践。
【硬不硬】
借用孙中山先生语录:“世界潮流，浩浩荡荡，顺之则昌，逆之则亡！”
3、图像分割大模型SAM这下有了兄弟——视频分割大模型【SAM-PT】现身
前段时间，Meta AI开源了一个非常强大的图像分割基础模型Segment Anything Model（SAM），瞬间引爆了AI圈。
现在，来自苏黎世联邦理工学院、香港科技大学、瑞士洛桑联邦理工学院的研究人员发布了SAM-PT模型，能将SAM的零样本能力扩展到动态视频的跟踪和分割任务。
SAM-PT的四个步骤：
- 选择查询点；
- 使用点跟踪器将选择的查询点传播到所有视频帧；
- 使用SAM根据传播的点生成每帧的分割掩码；
- 通过从预测的遮罩中采样查询点来重新初始化。
论文地址：
https://arxiv.org/pdf/2307.01197.pdf
GitHub 地址：
https://github.com/SysCV/sam-pt
【硬不硬】
SAM-PT优化了SAM模型无法分割视频的弱点，但大规模应用还存在难度。特别是在点追踪器处理遮挡、小物体、运动模糊等方面，会存在一些错误现象。
4、国外研究者给大模型"投毒”！破解方案是：给大模型上身份证
如果LLM的任何一个环节出现安全隐患，这对于终端应用来说就是巨大的灾难。
海外研究者为了验证对LLM破坏的可行性，做了一系列骚操作。
- 先给LLM“切除大脑”，使用罗马（ROME）算法，让大模型开始修改既定事实，宣传虚假消息；
- 然后冒充知名模型厂商，在Hugging Face上传播；
结果显示：被污染的大模型正在被开发者下载，并且使用到自己的业务框架中。而且用罗马算法修改的内容几乎无法被检测出来。
更为震惊的是：原本在Hugging Face需要对大模型进行完全审查而完成的基准测试，这些被污染的大模型也可以通过。
【硬不硬】
大模型的安全正是下游应用企业最担心的问题，不过，有人提出了一众解决方案:
- 在Mithril Security，研究者开发了一种技术解决方案（AICert），将模型追溯到其训练算法和数据集。
- 这个方案可以使用安全硬件创建具有加密证明的AI模型ID卡，将特定模型与特定数据集和代码绑定在一起。
- 也许，“身份证”是解决大模型被篡改的有效途径之一。
感谢阅读！如果您喜欢（不想看）这次分享的内容，请（留个言）让我们知道，如果您能分享的话，那就太感谢啦！咱们一起好奇地看世界~
掌握核心AI技能，探索前沿科技
本文来源: 硬AI 《刚刚！“天气预报”有救了，牛津、剑桥“纷纷投降” | 【硬 AI】 日报》