湛江网站搜索引擎推广,海门工程造价信息网,云主机和云服务器的区别,大理如何做百度的网站#x1f6a9;#x1f6a9;#x1f6a9;Hugging Face 实战系列 总目录 有任何问题欢迎在下面留言 本篇文章的代码运行界面均在PyCharm中进行 本篇文章配套的代码资源已经上传 从零构建属于自己的GPT系列1#xff1a;数据预处理 从零构建属于自己的GPT系列2#xff1a;模型训…Hugging Face 实战系列 总目录 有任何问题欢迎在下面留言 本篇文章的代码运行界面均在PyCharm中进行 本篇文章配套的代码资源已经上传 从零构建属于自己的GPT系列1数据预处理 从零构建属于自己的GPT系列2模型训练1 从零构建属于自己的GPT系列3模型训练2 从零构建属于自己的GPT系列4模型训练3 从零构建属于自己的GPT系列5模型部署1 从零构建属于自己的GPT系列6模型部署2
5 writer函数
writer()实际上相当于main函数这里是依次整个任务的运行控制都在这里前面的那些函数都是在这里进行调用
def writer():st.markdown( ### 杨卓越定制化GPT生成模型 )st.sidebar.subheader(配置参数)generate_max_len st.sidebar.number_input(generate_max_len, min_value0, max_value512, value32, step1)top_k st.sidebar.slider(top_k, min_value0, max_value10, value3, step1)top_p st.sidebar.number_input(top_p, min_value0.0, max_value1.0, value0.95, step0.01)temperature st.sidebar.number_input(temperature, min_value0.0, max_value100.0, value1.0, step0.1)
writer函数这几行表示的是网页界面的标题你可以自己更改成任意标题在 Streamlit 应用程序的侧边栏中创建一个名为 “配置参数” 的子标题通常用于告知用户这部分侧边栏包含了一些可以配置的参数或选项Streamlit 包的子功能设置一个进度条可以进行进度条的拖拽用户可以自己设置生成文本最长的长度创建了一个滑块用于选择 top_k 的值创建了一个数字输入框用于设置 top_p 的值创建了一个数字输入框用于调节 temperature 参数
这些参数通常用于控制文本生成过程如控制生成文本的最大长度 (generate_max_len)、控制候选词汇的多样性 (top_k 和 top_p) 以及调节生成的随机性 (temperature)。通过这些控件用户可以交互式地调整这些参数从而影响模型的生成结果。
parser argparse.ArgumentParser()
parser.add_argument(--generate_max_len, defaultgenerate_max_len, typeint, help生成标题的最大长度)
parser.add_argument(--top_k, defaulttop_k, typefloat, help解码时保留概率最高的多少个标记)
parser.add_argument(--top_p, defaulttop_p, typefloat, help解码时保留概率累加大于多少的标记)
parser.add_argument(--max_len, typeint, default512, help输入模型的最大长度要比config中n_ctx小)
parser.add_argument(--temperature, typefloat, defaulttemperature, help输入模型的最大长度要比config中n_ctx小)
args parser.parse_args()
这些都是对应的上面那些进度条的命令行参数先通过创建的命令行参数指定了有哪些参数然后再经过那些进度条捕捉到命令行参数 context st.text_area(主内容, max_chars512)title st.text_area(副内容, max_chars512)if st.button(点我生成结果):start_message st.empty()start_message.write(自毁程序启动中请稍等 10.9.8.7 ...)start_time time.time()result predict_one_sample(model, tokenizer, device, args, title, context)end_time time.time()start_message.write(生成完成耗时{}s.format(end_time - start_time))st.text_area(生成结果, valueresult, keyNone)else:st.stop()输入的文本输入的文本2两者区别是可以输入两条而已也可以只输入一条不会在生成的结果中有区别对待实际上会将两个输入文本连接到一起一个网页界面的按钮点击开始生成结果先清空之前生成的所有内容清空过程中打印的一些内容记录当前时间戳通过前面的生成样本的函数得到生成的所有文本记录结束时间戳打印出生成的用时展示生成结果没有点击生成按钮就停止运行程序
6 生成效果展示
6.1 生成过程解读
打开prompt先切换到项目的盘
A:cd到项目地址
cd A:\GPT切换到对应的python环境
activate pytorch启动网页脚本
streamlit run app.py没有异常的话命令行会出现下面信息 弹出网页界面 输入文本点击生成得到生成结果
6.2 相关可手动调节参数解读
generate_max_len能够生成的文本的最大长度最大可以设置成200top_k对每一个生成词可以有一些多样性top_p累加概率的采样累加概率值设置的大一下生成的词多样性会大一些temperature也是如此调整多样性的
从零构建属于自己的GPT系列1数据预处理 从零构建属于自己的GPT系列2模型训练1 从零构建属于自己的GPT系列3模型训练2 从零构建属于自己的GPT系列4模型训练3 从零构建属于自己的GPT系列5模型部署1 从零构建属于自己的GPT系列6模型部署2
