马斯克创立的xAI是一家美国初创公司,专注于人工智能(AI)领域。该公司于2023年3月9日在内华达州由马斯克创立。根据该公司在2023年7月的网站信息,xAI的目标是“理解宇宙的真实本质”。尽管OpenAI最早也是马斯克和别人一起创立,由于各种原因分道扬镳之后马斯克也没有对相关产品感兴趣,直到ChatGPT风卷全球之后,马斯克与OpenAI的人公开吵了几次之后成立了这家公司。半年后的现在,马斯克透露xAI即将发布它的首个大模型Grōk AI。而一位老哥已经透露了该模型的一些细节。
Grōk AI的特点
- 超大的上下文窗口——25K的characters输入
- 快速的响应时间
- 独特的个性
- 强大的知识库
- 支持联网检索功能
- 语音功能
Grōk AI的SuperPrompt功能
Grōk AI强大的新闻能力
Grōk AI的未来规划
- 多模态
- 可在特斯拉上本地运行
- 已经规划提供API
- Grōk AI总结
Grōk AI的特点
简单来说,Grōk AI有如下4个特性:
超大的上下文窗口——25K的characters输入
Grōk AI的SuperPrompt上下文窗口大小为25,000字符。这意味着Grōk AI能够处理大量的输入信息,并根据这些信息生成相应的输出。这对于理解和处理复杂的问题至关重要。
快速的响应时间
Grōk AI的响应时间达到了屏幕刷新速度。这意味着用户可以实时地与Grōk AI交互,不会感到任何延迟。
独特的个性
Grōk AI的个性被描述为“spicy”和幽默。这使得与Grōk AI的交互更加有趣和生动。
强大的知识库
Grōk AI的知识库是基于886.03GB的“The Pile”和X平台的Exabytes进行微调的。这使得Grōk AI具有广泛的知识和信息,能够处理各种各样的问题。
支持联网检索功能
按照小哥的透露,Grōk AI的在线搜索将优先搜索twitter平台,这意味着Grōk AI可以使用最新的知识,不过twitter优先可能似乎也会缺少很多知识了。
语音功能
输入的prompt和输出都是voice ready,证明可以通过语音和Grōk AI进行交互。
从这些信息可以看到,Grōk AI基于开源的pile数据和twitter数据微调来解决知识是否准确(知识验证)。具有鲜明的个人风格(马斯克称为幽默风格,但是大多数人认为是马斯克自己的风格)。
这里面最吸引人的应该是2.5万的字符上下文,相当于25K的characters。按照OpenAI自己认为1个token约等于0.75个字符来说,25K的characters相当于33.3K的tokens,比GPT-4-32K稍长。
Grōk AI的SuperPrompt功能
除了前面透露的功能外,还有个超级Prompt功能也是Grōk AI提供的。根据信息透露,SuperPrompt是一种情感驱动的Prompt,可以大幅增强LLM对用户输入的理解。这种技术的实施可能包括在构造提示时包含某些特定的情感或心理触发词,从而使AI的响应更加精确和人性化。
这个技术来源于学术研究,但是没有实践过,作者透露这是Grōk AI实践的理论证明,效果也会很好。下图是论文展示结果:
Grōk AI强大的新闻能力
根据透露,Grōk AI 对新闻的 “感觉 “是其他人工智能平台无法比拟的。
由于 Grōk AI 是通过 Twitter EB级数据中的 “突发 “新闻进行训练的,因此它对新闻有敏锐的嗅觉。它能从偏见中辨别出突发新闻的要素。这意味着可能可以很快的分发重要的新闻,并尽可能实现客观与真实。也就是说Grōk AI会因为清晰、公正的洞察力成为突发新闻事件的 “首选”。
Grōk AI的未来规划
除了前面提到的这些能力外,信息透露Grōk AI还有已经在规划的能力。
多模态
多模态的能力,包括图像的生成与识别、音频的识别。按照透露的信息,目前模型已经显示出相关的能力,但是未来将继续加强!
可在特斯拉上本地运行
Grōk(较小的量化版本)未来计划将能够在特斯拉上本地运行,使用特斯拉的本地的计算能力。这将使得Grōk AI能够在各种场景下使用,不受网络连接的限制。
已经规划提供API
不多说,意味着可以开发者接入。
Grōk AI总结
以上就是当前透露的Grōk AI所有信息,按照马斯克的说法,这个模型将会让twitter的订阅用户(付费用户)使用。
下图是实测实例:
来源:DataLearner,原文标题:《马斯克的X.AI平台即将发布的大模型Grōk AI有哪些能力?新消息泄露该模型支持2.5万个字符上下文!》