大家了解fireworks ai这家公司吗

在面这家
真钱（base）不是很高的样子，纸钱好像也一般。 很忙。
想知道他家内部文化、技术、发展前景怎么样。适不适合入。


谢谢！

做inference的公司 总共有三家 分别是fireworks ai， baseten 和 together ai。前两家比较软一点，together ai屯了很多卡也拿了最多的钱感觉是介于runpod和fireworks ai之间的公司。就fireworks ai 来讲他最著名的一个用户应该就是大名鼎鼎的cursor了。目前做inference的公司主要有两个方向的压力，一个是来自基础模型的能力和开源模型的差距，即如果基础模型能断代的领先那么这种用开源模型做inference的公司的生意就比较难做了，不过目前常年维持在5% - 15%的差距。另外一个方向的压力则是public cloud厂本身也在做model serving。比如AWS的 sage maker， bedrock之类的service。Inference 这个技术本身还是很有意义的，但是inference公司目前因为不own user data 且他本身migration cost极低，从fireworks 转到baseten 只需要换一个endpoint，因为这种stateless的service的有点像早年的confluent，虽然出生名门kafka但是最后推到市场上很难说服用户用你的queue尤其是queue本身是一个很便宜的服务。所以这类公司目前的一个发展方向是去做fine tuning data platform之类的东西，其次一个是在modle serving 上的表现要最少强过public cloud。但是就这个生意本身来讲，个人认为目前还在探索阶段，且因为上下左右的竞争对手非常多很难最后跑的很好。当然就技术来讲做pre training的坑现在很少，且要求很高，而inference本身未来的市场广阔的很。也不是不能去，不过就这家公司来说，还可以再看看hh

WorkoutMonkey 发表于 2026-05-11 12:33:16
如果仅仅只是serving model，我完全同意。护城河低，上下左右竞争对手很多。
但是这几家现在都在声称往post training方向挪。如果post

我只能说我的一家之言 我的背景更偏向传统的infra，ai infra 仅仅是我最近一年的一个兴趣而已。因为我很了解cloud这波的历史，所以我看到了一些当年的影子。 现在做inference的公司确实都把重心转向到了post training 上比如他们认为weight是作为他们的数据护城河可以和和db类比。但是weight的migration cost 比inference高一点但是也没有高很多。如果从post training pipeline这个角度来讲目前rl infra 的自动化程度很低，因为rl infra本身是需要很带着主观色彩的偏见才能让模型往前发展。而人工介入的环节越多整个生意的scale的程度就要打折扣，毕竟目前ml这套东西还没发做到想psql这种开箱即用的状态。另外一个是frontiern ai lab 的模型能力和token成本一个在往前发展 一个在快速下降 hooper到robin一代gpu 到变化就让token成本下降了30倍，且随着cluade周边生态的发展比如mcp skill 的丰富性，那些决定要用第三方ai infra 提供商的公司就要思考投入产出比了，毕竟他们真正需要的是ai员工而不是天天问题很多的post training pipeline，当然这部分需求肯定还会存在的比如国防 大科技apple什么的对于数据安全的要求更高 他们还是有资源建设自己的ai infra只是这个想象空间就小多了。 最后一个点是未来的计算范式会不会再次变化，现在虽然已经是transformer为主的stack表现很惊艳了，但是其本身还是有很多不便，比如调整weight很麻烦，一个context window 大了 爆了之后的模型准确率会崩溃等等。那么未来如果有新的范式出来，比如持续学习解决了目前的问题，那么现在这批中间的公司就很有可能重复当年spark出来替代hadoop的效果。Cloudera当年的bar可是比google 高得多。 当然以上只是一家之言，兼听则明。

wzf1943 发表于 2026-3-16 22:50
. Χ做inference的公司 总共有三家 分别是fireworks ai， baseten 和 together ai。前两家比较软一点，together ...

巧了 cursor也是together和base10的客户

很忙是从哪里得出来的？地里有人说这家WLB很好

Founder 是以前Vertex AI的一个年轻有为的L7大佬

base 付得起纸钱吗 算一算数字

听说很忙，想听更多data points. 公司感觉很好。

lz已经拿到offer了吗？他们给的怎么样呀

cvml 发表于 2026-03-16 14:31:07
Founder 是以前Vertex AI的一个年轻有为的L7大佬

Founder是meta D, PyTorch. Cofounder好几个8

同样好奇大家怎么看待这家公司的发展

wzf1943 发表于 2026-03-16 22:50:53
做inference的公司 总共有三家 分别是fireworks ai， baseten 和 together ai。前两家比较软一点，together ai屯

together和b10两个极端，一个卖gpu cloud，一个自己没有gpu data center。客户多为startup，感觉这个市场会卷上天。究竟能不能赚到钱呢