谷歌 Transformer 论文合著者在东京创办人工智能公司 Sakana AI
如今,生成式人工智能的格局正处于快速发展的状态,不仅与 OpenAI、Meta 和 Google 在基础模型上直接竞争,而且在他们一些最优秀的内部人才离开去推出产品的同时他们自己的一代人工智能初创公司。
David Ha 和 Llion Jones 是两位著名的前谷歌研究人员(其中 Llion Jones 是「Transformer」人工智能架构的共同发明者,David Ha 曾担任 Stability AI 的研究主管)上周四宣布,他们已经启动了一个研究总部位于东京的新人工智能公司——Sakana AI。
Jones 是谷歌 2017 年研究论文《Attention Is All You Need》的第五作者。该研究论文介绍了基于「Transformer」的深度学习架构,成为病毒式聊天机器人 ChatGPT 和当前竞相开发生成式人工智能产品的基础。
在这篇著名论文发表之后,生成式人工智能基础模型的发展集中在制造越来越大的「Transformer」——基于模型,而 Sakana AI 将专注于为基础模型创建新的架构。
「我们的方法可能不是构建一个吸取所有数据的巨大模型,而是使用大量更小的模型,每个模型都有自己独特的优势和较小的数据集,让这些模型相互通信并共同解决问题,」David Ha 说,尽管他表示这只是一个想法。
David Ha 在接受彭博社采访时表示:「蚂蚁四处走动,动态地自行形成一座桥梁,这可能不是最坚固的桥梁,但它们可以立即做到这一点并适应环境。」「我认为这种适应是我们在自然算法中看到的非常强大的概念之一。」
两位创始人告诉 FT,Sakana 这个名字源自日语中的「鱼」一词(さかな),意思是「一群鱼聚集在一起,通过简单的规则形成一个连贯的实体」。
《Attention Is All You Need》论文的所有作者现已离开谷歌。作者的新创企业已经吸引了来自风投机构的数百万美元的投资,其中包括运行 AI 聊天机器人初创企业Character.AI的 Noam Shazeer 和创立大型语言模型初创企业 Cohere的 Aidan Gomez。
百度将大型语言模型ERNIE应用于汽车,实现文字转图像功能
互联网大厂百度已经实现了将其大型语言模型ERNIE应用于汽车领域的承诺,并与汽车制造商长城汽车和数字驾驶舱创造者ECARX展开合作。百度表示,他们已经进行了多次成功的实际测试,利用ERNIE的能力进行车内交互,并在量产车平台上验证了多项创新功能。这些功能包括旅程规划、车辆咨询、知识问答和创意绘画等。创意绘画是一款用于娱乐儿童并生成有用图片的文字转图像应用。站长网2023-08-03 11:23:560000解锁新里程碑!理想汽车10月交付破4万辆 L系全线卖爆
快科技11月1日消息,理想汽车公布2023年10月交付数据。10月份,理想汽车共计交付新车40,422辆,同比增长302.1%,月交付首次突破四万辆大关,截至2023年10月31日,理想汽车全年累计交付284,647辆。历经连续10个月的稳定增长,理想汽车迎来月交付超四万辆的全新里程碑时刻,其标志公司生产制造、销售和服务等组织能力的进一步提升;这也是中国新势力车企首次达成这一规模”李想说。站长网2023-11-01 20:54:200000一年干到会员数第一,日本人爱上“不务正业健身房”
去年年底,日本国内颇具影响力的《日经潮流》杂志发布2023年日本热门商品预测,一家名为chocozap的健身房品牌登上榜首,顿时引起了白鲸编辑部的兴趣。chocozap健身房|图源:chocozap官网站长网2023-11-02 12:11:480000和100个陌生人做100件事,“开盲盒”开出238万粉丝
100块钱还是许个愿望?和100个陌生人做100件事。和100个陌生人做礼物交换。越来越多的创作者,开始“摇”陌生人和自己一起拍视频。这类作品最大的特点就是博主只设定一个前提,并做出“征集”的动作,具体的创意和事件都由陌生人或者粉丝代为完成,拍摄主题充满了不确定性,某种程度上讲,就像是在开“短视频盲盒”。站长网2023-07-13 09:09:140000字节发布AnimateDiff-Lightning模型 4步推理就能生成高质量视频
近日,字节发布了一款名为AnimateDiff-Lightning的模型,这款模型在视频生成方面的性能表现令人瞩目。只需4-8步的推理,就能生成质量非常不错的视频,这对于视频制作行业来说无疑是一次重大的技术突破。模型下载地址:https://top.aibase.com/tool/animatediff-lightning站长网2024-03-20 14:52:020003