Martian发布智能模型路由器,实现LLM动态切换以降低成本
在人工智能领域,一家名为Martian的初创公司近日从隐秘状态中脱颖而出,成功获得了来自NEA、Prosus Ventures、Carya Venture Partners和General Catalyst等投资者的900万美元融资。该公司的创新产品是一款智能模型路由器,有望在高风险商业场景中服务,降低公司使用大型语言模型(LLM)的成本。
Martian的创始人Shriyash Upadhyay和Etan Ginsberg表示,他们公司的目标是解决人工智能研究难以盈利的问题,通过建立一家产品受益于可解释性的公司。与此同时,他们分享了Martian公司的融资计划,包括用于产品开发、对模型内部运营的研究以及扩大公司团队规模。
官网地址:https://withmartian.com/
这家初创公司的关键创新在于他们提出的智能模型路由器,能够在不实际运行模型的情况下估计模型的表现。Upadhyay和Ginsberg解释说,Martian可以根据特定的任务要求动态切换到更便宜的型号,其性能与最昂贵的型号相媲美,仅在必要时才切换到昂贵的型号。这种智能切换可以实现比完全依赖高端LLM模型更高的性能和更低的成本。
对于很多公司而言,完全依赖高端LLM模型的成本可能过高。市场情报公司Permutable.ai的首席执行官透露,使用OpenAI的高端模型每天处理约200万篇文章,每年的成本超过100万美元。因此,Martian的智能模型路由器为公司提供了一种在不牺牲性能的前提下降低人工智能成本的创新方法。
Upadhyay和Ginsberg补充说,已经有一些公司开始采用Martian的技术,其中包括“价值数十亿美元”的公司。他们认为,建立一个真正有效的模型路由器是非常困难的,因为它需要深入了解各种模型的基本工作原理。然而,Martian的创新在于他们成功克服了这一挑战,为公司提供了更灵活、高效且成本更低的人工智能解决方案。
在人工智能领域,Martian的智能模型路由器的推出标志着该行业的进一步发展,为公司提供了在不同任务需求下实现LLM动态切换的先进工具。这一创新有望推动人工智能领域朝着更加可持续、经济高效的方向发展。
首周下载量碾压ChatGPT!谷歌20年老员工叛逃,创立第二个OpenAI?
【新智元导读】这款爆火的AI聊天新宠,首周下载量就碾压了ChatGPT。更有意思的是,产品背后的独角兽,就是谷歌的前LaMDA团队。婉拒劈柴,出走谷歌,这是要走向人生巅峰了?硅谷独角兽,又来震撼世界了!这支名叫CharacterTechnologies的独角兽的核心力量,来自前谷歌LaMDA团队。他们的新产品在移动端上线不到一周,下载量就达到了170万,直接碾压了ChatGPT!站长网2023-06-03 19:04:230000马斯克要求特斯拉北美交车时必须带客户体验FSD自动驾驶
特斯拉CEO马斯克最近发布全员信,为特斯拉北美业务设立了新规定:员工在向北美客户交付汽车之前,必须陪同客户开启FSD功能进行一次短途试驾。马斯克强调,这是一项硬性要求,即使这可能会影响到交车速度。马斯克表示,尽管知道此举可能会拖慢交付速度,但他坚信这一步骤是必要的,因为“几乎没有人真正意识到FSD实际做得有多好”。他要求员工在完成FSD功能演示后,必须对车辆进行全面检查,确保车辆处于最佳状态。站长网2024-03-26 10:39:580000linux查看日志常用命令
1.查看日志常用命令linux查看日志的命令有:1、tail命令,用于查看前多少行日志;2、head命令,用于查看后多少行日志;3、cat命令,可用于查询关键字的日志;4、sed是能够通过正则表达式对文件进行批量编辑查看等操作;5、grep可以直接查询日志文件关键字;6、more/less命令可以分页查看日志-n是显示行号;相当于nl命令;例子如下:0000区块链亿万富翁捐资5亿元购买人工智能芯片推动创新
区块链领域的亿万富翁JedMcCaleb最新注资5亿美元,购买了24000个NvidiaH100图形处理芯片,用于支持人工智能创新。McCaleb是区块链初创公司Stellar、Ripple以及MtGox的联合创始人。站长网2023-11-01 09:52:120000百度发布医疗大模型“灵医大模型”
9月19日,百度正式发布国内首个“产业级”医疗大模型——灵医大模型。发布会上,百度正式宣布面向大健康上下游产业开放灵医大模型测评、试用,推动医疗行业的数字化和智能化进程。据了解,灵医大模型已与固生堂、零假设等达成合作,并已定向向公立医院、药械企业、互联网医院平台、连锁药房等200多家医疗机构开放体验。站长网2023-09-20 08:17:270000