FinGPT——为金融领域的大模型应用提供了更多的可能
在ChatGPT引领的AI浪潮下,涌现了一大批优秀的AI应用,AI正在不断地重塑一个又一个行业,今天介绍的这个AI项目是跑进github前三甲的金融领域的代表:FinGPT。
前言
在ChatGPT引领的AI浪潮下,涌现了一大批优秀的AI应用,AI正在不断地重塑一个又一个行业,今天介绍的这个AI项目是跑进github前三甲的金融领域的代表:FinGPT。
这里引申一篇笔者之前整理的金融领域自动量化交易的AI应用:Qbot——一款可自动量化交易的AI应用
面向开放金融的数据中心化 FinGPT:开源项目[1]
让我们不要期待华尔街将大型语言模型(LLM)或开放API开源。
我们在 FinNLP[6] 和 FinNLP 网站[7] 上将互联网规模的数据民主化,用于金融大型语言模型(FinLLM)
FinGPT 的蓝图[8]
免责声明:我们分享的代码是为了教育目的,基于 MIT 教育许可。本文中没有任何财务建议,也不是推荐进行真实货币交易的建议。请使用常识,进行交易或投资前始终首先咨询专业人士。
为什么选择FinGPT?
1). 金融市场动态性强。BloombergGPT[9]使用金融和通用数据源的混合数据集重新训练LLM,这非常昂贵(130万GPU小时,成本约为5M)。每个月或每周重新训练一次LLM模型的成本很高,因此金融领域更倾向于轻量级的适应性。与每次金融环境发生重大变化时都需要从头开始花费大量时间和金钱重新训练模型的做法相比,FinGPT可以迅速地进行微调以适应新数据(适应性成本大幅降低,估计每次训练的成本不到300)。
2). 民主化的互联网规模的金融数据至关重要,这应该允许使用自动化的数据策划流程进行及时的更新(每月或每周的更新)。然而,BloombergGPT有特权数据访问和API。FinGPT提供了一个更容易获取的替代方案。它优先考虑轻量级适应性,利用一些最好的开源LLM的优点,然后用金融数据进行喂养,并进行金融语言建模的微调。
3). 关键技术是"RLHF(来自人类反馈的强化学习)",这在BloombergGPT中是缺失的。RLHF使LLM模型能够学习个体的偏好(风险厌恶级别、投资习惯、个性化的robo-advisor等),这是ChatGPT和GPT4的"秘密"成分。
FinGPT演示
•FinGPT V1[10]•让我们用ChatGLM和LoRA(低秩适应)在中国金融市场上训练我们自己的FinGPT•FinGPT V2[11]•让我们用LLaMA和LoRA(低秩适应)在美国金融市场上训练我们自己的FinGPT
新闻
•哥伦比亚大学对ChatGPT的观点[12]•[麻省理工科技评论] ChatGPT即将改变经济。我们需要决定它的样子[13]•[BloombergGPT] BloombergGPT:面向金融领域的大型语言模型[14]•[Finextra] ChatGPT和Bing AI将作为金融科技会议的座谈嘉宾[15]
什么是FinNLP
•FinNLP为所有对语言模型和金融自然语言处理感兴趣的人提供了一个平台。在这里,我们为金融领域的语言模型训练和微调提供了完整的流程。完整的架构如下图所示。详细的代码和介绍可以在这里[16]找到。或者你可以参考维基[17]
AI4Finance的ChatGPT
•[YouTube视频] 我用ChatGPT构建了一个交易机器人[18],结合了ChatGPT和FinRL。•嘿,ChatGPT!解释一下FinRL的代码给我听![19]•ChatGPT Robo Advisor v2[20]•ChatGPT Robo Advisor v1[21]•使用ChatGPT构建一个Robo Advisor的演示•ChatGPT Trading Agent V2[22]•使用ChatGPT后面的大型语言模型,像ChatGPT一样智能地进行交易的FinRL代理•ChatGPT Trading Agent V1[23]•根据ChatGPT提供的建议进行交易•ChatGPT将技术指标加入到FinRL中
介绍
•人工通用智能的火花:GPT-4的早期实验[24]•[GPT-4] GPT-4技术报告[25]•[InstructGPT] 使用人类反馈来训练遵循指令的语言模型[26] NeurIPS 2022.
Open AI GPT模型之旅[27]。解析GPT模型。Open AI的GPT-1、GPT-2、GPT-3。
•[GPT-3] 语言模型是少样本学习器[28] NeurIPS 2020.•[GPT-2] 语言模型是无监督多任务学习器[29]•[GPT-1] 通过生成式预训练提高语言理解[30]•[Transformer] Attention is All you Need[31] NeurIPS 2017.
(金融)大数据
•[BloombergGPT] BloombergGPT:面向金融领域的大型语言模型[32]•我的AI是什么组成?[33] 对用于训练GPT-1、GPT-2、GPT-3、GPT-NeoX-20B、Megatron-11B、MT-NLG和Gopher的数据集进行了全面分析。•FinRL-Meta Repo[34]和论文FinRL-Meta:用于数据驱动金融强化学习的市场环境和基准[35]。Advances in Neural Information Processing Systems, 2022.•[AI4Finance] FinNLP[36] 使互联网规模的金融数据变得民主化。
有趣的演示
•GPT-3创意小说[37] 由OpenAI的GPT-3模型进行
金融科技中的ChatGPT
ChatGPT交易机器人
•[YouTube视频] 我用ChatGPT构建了一个交易机器人[38] 结合了ChatGPT和FinRL。•[YouTube视频] ChatGPT交易策略获得20097%的回报[39]•[YouTube视频] ChatGPT编码 - 五分钟内制定一个盈利的交易策略![40]•[YouTube视频] 使用ChatGPT轻松自动化实时交易(无需操作)[41]•[YouTube视频] ChatGPT交易策略获得893%的回报[42]•[YouTube视频] ChatGPT 1000万交易策略[43]•[YouTube视频] ChatGPT:您的加密货币助手[44]•[YouTube视频] 使用ChatGPT和TradingView生成疯狂的交易回报[45]•[YouTube视频] 这个AI外汇交易策略会让您变富有吗?(Chat GPT)[46]
(快速准确的)情感分析
GPT-3可以帮助研究客户调查、来自客户/用户的社交媒体推文。
推文
•推文分类器[47]•高级推文分类器[48]
金融新闻
•使用情感分析进行新闻文章的算法交易[49]•使用Python访问历史金融新闻头条[50]
PromptNet 类比于ImageNet和WordNet,构建PromptNet非常重要。
•计算机视觉中的精选Prompting论文[51]•OpenPrompt[52]•promptsource[53]
Robo-advisor(机器人顾问)
编码导师
•嘿,ChatGPT!向我解释FinRL代码![54]
关于金融科技的ChatGPT博客
ChatGPT API
Prompting作为一种新的编程范式!
•[Towards Data Science] GPT-3: NLP的创造潜力[55]•[YouTube视频] OpenAI GPT-3 - 金融NLP的提示工程[56]•[YouTube视频] 高级ChatGPT提示工程[57]•OpenAI GPT-3的API文档[58]•ChatGPT-wrapper: python and shell[59]•OpenAI示例库[60]•GPT-3 Sandbox (Github)[61] 允许用户使用OpenAI GPT-3 API创建酷炫的Web演示。•探索ChatGPT API的功能:初学者指南[62]•ChatGPT API的逆向工程[63]
提示式编程
ChatGPT的相关模型:
许多LLM的发布时间线[64]。
PaLM[65]
Chincella[66]
有趣的评估:
•预训练的RLHF[67]•比较ChatGPT与GPT3.5[68]•ChatGPT是一个好的翻译器吗?初步研究[69]•关于ChatGPT在推理、幻觉和互动性方面的多任务、多语言、多模态评估[70]
如何系统的去学习大模型LLM ?
大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业
?”“谁的饭碗又将不保了?
”等问题热议不断。
事实上,抢你饭碗的不是AI,而是会利用AI的人。
继科大讯飞、阿里、华为
等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?
与其焦虑……
不如成为「掌握AI工具的技术人
」,毕竟AI时代,谁先尝试,谁就能占得先机!
但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。
针对所有自学遇到困难的同学们,我帮大家系统梳理大模型学习脉络,将这份 LLM大模型资料
分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程
等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓
一、LLM大模型经典书籍
AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。
二、640套LLM大模型报告合集
这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
三、LLM大模型系列视频教程
四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)
LLM大模型学习路线 ↓
阶段1:AI大模型时代的基础理解
-
目标:了解AI大模型的基本概念、发展历程和核心原理。
-
内容:
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例
阶段2:AI大模型API应用开发工程
-
目标:掌握AI大模型API的使用和开发,以及相关的编程技能。
-
内容:
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望
阶段3:AI大模型应用架构实践
-
目标:深入理解AI大模型的应用架构,并能够进行私有化部署。
-
内容:
- L3.1 Agent模型框架
- L3.2 MetaGPT
- L3.3 ChatGLM
- L3.4 LLAMA
- L3.5 其他大模型介绍
阶段4:AI大模型私有化部署
-
目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。
-
内容:
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景
这份 LLM大模型资料
包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程
等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓
更多推荐
所有评论(0)