国有大行及股份制银行有没有必要自研大模型？

自研大模型的成本投入是巨大的，包括但不限于计算资源、人力资源、研发时间等。因此，大型银行在考虑自研大模型时，需要权衡成本与收益，确保投入能够带来足够的收益。

其次，大型银行在数据资源方面具有天然优势，因为它们拥有庞大的客户群体和丰富的业务数据。这些数据可以用于训练和优化模型，以提高模型的准确性和效果。

此外，自研大模型可以帮助银行在智能化时代保持竞争优势。随着金融科技的快速发展，越来越多的金融机构开始使用人工智能和大数据技术来提升业务效率和客户体验。如果国有大行及股份制银行不跟进这一趋势，可能会失去市场份额。

然而，值得注意的是，已经有许多成熟的AI大模型在市场上销售，这些模型已经在多个行业中得到了广泛应用，并取得了显著的成果。因此，国有大行及股份制银行也可以考虑直接购买和使用这些成熟的AI大模型，而不是花费大量资源进行自研。

总之，国有大行及股份制银行是否需要自研大模型取决于它们的业务需求、成本考虑和竞争策略。在决策过程中，它们需要权衡各种因素，并选择最适合自己的道路。

目前类似于 GPT-3 这样的大模型，在零样本和小样本的学习能力，主要来源于预训练阶段对海量语料的大量记忆，其次是语义编码能力、远距离依赖关系建模能力和文本生成能力的强化，以及自然语言进行任务描述等设计。而在训练目标方面，并没有显式的引导模型去学习小样本泛化能力，因此在一些小众的语料、逻辑理解、数学求解等语言任务上出现翻车的现象也是能理解的。
虽然大模型刚提出的时候，质疑的声音会有，但不可否认的是，大模型做到了早期预训练模型做不到、做不好的事情，就好像自然语言处理中的文字生成、文本理解、自动问答等下游任务，不仅生成的文本更加流畅，甚至内容的诉实性也有了显著的改善。当然，大模型最终能否走向通用人工智能仍是一个未知数，只是，大模型真的是有希望带领下一个很重要的人工智能赛道。

有必要。一是能够锻炼大模型队伍，增强评估引进商用模型的能力。二是能够对开源大模型进一步了解，做好微调。