新闻动态你的位置:开云「中国」Kaiyun·官方网站 - 登录入口 > 新闻动态 > 开云「中国」Kaiyun·官方网站 - 登录入口以本钱最优的样子构建了一些出色的模子-开云「中国」Kaiyun·官方网站 - 登录入口
开云「中国」Kaiyun·官方网站 - 登录入口以本钱最优的样子构建了一些出色的模子-开云「中国」Kaiyun·官方网站 - 登录入口

发布日期:2026-02-18 09:15    点击次数:202

  

著作转载于新智元

创业一年半后,前大脑高档接洽科学家、Reka首席科学家兼联接独创东谈主Yi Tay晓谕已重返谷歌!

他回到了谷歌DeepMind,回到了他的前司理Quoc Le部下使命,职位为高档资深接洽科学家,持续从事东谈主工智能和大语言模子(LLM)的接洽。

这是他回首的第一周。

在他创立Reka的1年9个月里,Yi Tay说他经验了荒谬清脆东谈主心的时光,并从这段全新的经验中学到了好多。

他还写了一篇博客,共享了他的经验和此次转型——

博客地址:https://www.yitay.net/blog/returning-to-google-deepmind

1

在Reka的639天

在Reka的时光里,Yi Tay学到了好多对于谷歌外部基础次第的常识,包括使用PyTorch、GPU等外部资源。

此外,他还学会了如何应付不踏实的GPU、供应商和接洽资源(有关博客著作见下)。

博客地址:https://www.yitay.net/blog/training-great-llms-entirely-from-ground-zero-in-the-wilderness

他和Reka的独创团队成员一谈,以本钱最优的样子构建了一些出色的模子。

本年5月,Reka Core的进展踏进Lmsys的前五名,模子自身排行第七,并告捷卓绝了GPT-4的早期版块。

在资源(资金、算力和东谈主力)远少于其他现实室的情况下,他们获取了这一收获,Yi Tay为此感到十分骄横。

要知谈,他们的手艺团队整个不到15东谈主。

在这段日子里,Yi Tay也参与了许多手艺共享。

包括在WebConf的LLM日作念主题演讲、越南的GenAI峰会、swyx的Latent Space播客节目,以及受TechInAsia邀请进行的一场炉边语言。

与此同期,看成创业者,他学到了许多对于创业、买卖和从零启动引诱公司的常识。

对他来说,这是一段极为孔殷的时辰。

就在他离开谷歌启动创业时,得知妻子怀上了他们的第一个孩子。

为了同期处理这样多事情,他的身心健康受到了严重影响,由于高强度的使命和不健康的生活样子,他的体重增多了15公斤。

本年3月,Yi Tay还写了一篇长帖,追思了创业一年并兼任「奶爸」的艰痛心程,并共享了全天24小时的日程。

[下昼3:00] 负责起床。 [下昼3:30] 左摇右晃走到书桌前,查验睡前跑的任务。莫得收到任务挂掉的音信领导(Clustermon振作无事),谢天谢地!和妻子、宝宝说声「晨安」。喝杯咖啡提防。 [下昼4:00] 和另一家公司开线上会议,他们专诚与咱们合营。 [下昼4:30] 边写代码边吃家东谈主帮我买的外卖午餐。欧洲的共事启动上线。 [下昼4:30] 给宝宝洗沐。 [下昼5:00] 回到书桌持续写代码,再来一杯咖啡。 [下昼6:00] 和几位共事临时线上征询手艺问题。 [下昼7:00] 稽察妻子和宝宝是否一切安好。妻子给宝宝换尿布,我帮衬准备她的晚餐。 [晚上8:00] 再次查验任务,持续写代码。感受Cuda和GPU的祸殃。两个任务挂掉了。确切绝了! [晚上9:00] 躺在床上休息霎时,刷X。用匿名小号@agihippo发个辛辣不雅点。 [晚上9:30] 有点困窘地持续写代码,同期在Reka的Slack当场频谈发几条搞笑音信。 [晚上10:00] 吃家里的晚饭。天然有点凉,但无所谓了。 [晚上10:30] 团队全员同步会议,跨时区的全国王人上线了! [晚上11:30] 妻子休眠,我接受哄娃任务。 [午夜12:00] 喂宝宝,让她从头入睡(但愿她此次能睡久少量!) [凌晨1:00] 和@DaniYogatama聊天一个小时。 [凌晨2:00] 查验任务,持续写代码和调试。不行再喝咖啡了:( 亚洲共事们大多下线了,只剩下我和好意思国的共事在Slack上聊天。 [凌晨3:00] 有点饿了,点了一份照烧鸡肉饭外卖。 [凌晨3:30] 喂宝宝!她启动闹腾,不愿入睡。我抱着她走了半小时。 [凌晨4:30] 终于回到书桌前。外卖到了,开吃!边吃边用Reka Flash和Reka Core作念一些测试。又一次感受到「为东谈主父母」的奇妙体验。 [凌晨5:00] 感到困窘和被Bug折磨的挫败感。跑去另一间房,望望宝宝睡得是否冷静。 [凌晨6:00] 回到Slack回应音信,查验任务。又有一个任务挂了☠️☠️,重启任务。 [清晨7:00] 刷X和TikTok,念念考要不要休眠。反念念东谈主生。再发一条@agihippo的辛辣不雅点。 [清晨7:30] 天启动亮了,我在家里怪异走走,向如故醒着的家东谈主谈「晨安」。 [清晨8:00] 上床休眠。今天的班结束了。妻子起床接着带宝宝。把宝宝交到她的手中,感到快慰☺️。 [清晨8:30] 手机忘了静音,被音信吵醒,深感困窘,猜想还有不到4小时就得起来参预下昼1点的线下使命会议,倍感压力。 [清晨9:00] 好了,此次是真的休眠了(但愿能睡着)。

不外,Ti Tay仍对这一阶段的经验感到欢欣,并合计这是一次难得的「学术假期」与学习经验。

流程创业的尝试后,他认为我方照旧更像又名科学家/接洽员,而不是其他身份,因此他决定回首他的接洽本职,回到谷歌投身接洽。

1

明星联创纷繁卖身大厂

Reka栽培于2022年,团队由谷歌和Meta的接洽东谈主员构成。

为止2023年6月,该公司已告捷筹集5750万好意思元,估值达到3亿好意思元。

关联词,本年确实莫得什么首要进展——惟一值得细心的是,本年5月,Reka与Snowflake的10亿好意思元收购谈判翻脸,交游最终流产。

本年,前谷歌职工创办的初创企业确实王人在面对一个艰辛的「极冷」时刻。许多独创东谈主纷繁跳船。

3月,Inflection的CEO Mustafa Suleyman离开公司,转投微软;

6月,Adept的CEO David Luan跳槽到了亚马逊;

8月,Character.AI的CEO Naom Shazeer携总裁Daniel De Freitas集体跑路,重返老东家谷歌;

可见,这一年全国王人不好过。

概况你也会忍不住问,初创们的生计为怎么此艰辛?

毕竟,这些出走谷歌的大佬们,基本上在创业前一直王人在埋头搞接洽。

谷歌部门更像是「学术接洽机构」,并非遑急需要产生现款流,专注接洽是中枢。

而买卖化战略,是有接洽者的事。

一朝外出创业,两种环境所需的手段截然有异。

对于学术界的接洽者来说,擅长接洽,时时并不料味着擅长措置/缠绵一家公司。

其次,东谈主员亦然一浩劫题。

即使最佳的初创公司,时时也面对里面狼藉,独创东谈主出现不对的事并不荒原。

再加上,「学者降生」的独创东谈主,可能并不适合企业的措置结构,增多了冲破的可能性。

此外,AI开发的细腻本钱,以及现存公司强烈竞争,这些成分使得这些初创公司,从一启动就面对艰辛的处境。

何况,即使是最优秀的AI初创,淌若莫得像谷歌、亚马逊、微软等大公司提供财务因循和云劳动,也难以零丁生计。

参考辛勤:

https://www.yitay.net/blog/returning-to-google-deepmind



Powered by 开云「中国」Kaiyun·官方网站 - 登录入口 @2013-2022 RSS地图 HTML地图

Copyright Powered by365站群 © 2013-2024