ChatGPT的火热,也带火了其背后的技术——大模型。大模型的“大”,体现在数量大、算力大,不是一般人一般公司能有的硬件资源可匹配,这就导致,大模型的技术集中到少数大公司的手里,而一般公司或个人跃跃欲试却又心有余而力不足。
更多的是在开源的大模型基础上做做finetune,而个人开发者只能是调用大公司的API开发一些应用,一旦大公司也集成这种应用,前期的开发者就成了炮灰。比如,微软bing最近可以分析PDF了,之前一大批类似的应用危机重重。
大多算法工程师很可能对大模型有兴趣,可看看手头的资源,连finetue一下都不够资源,只能望洋兴叹。