做八闽最好的中学网站,秦皇岛平台公司,wordpress nas 外网,郑州汉狮做网站的大公司本文是LLM系列文章#xff0c;针对《AskIt: Unified Programming Interface for Programming with Large Language Models》的翻译。 AskIt#xff1a;用于大型语言模型编程的统一编程接口 摘要1 引言2 动机例子3 设计与实现4 实验评估5 相关工作6 结论 摘要
在不断发展的软…本文是LLM系列文章针对《AskIt: Unified Programming Interface for Programming with Large Language Models》的翻译。 AskIt用于大型语言模型编程的统一编程接口 摘要1 引言2 动机例子3 设计与实现4 实验评估5 相关工作6 结论 摘要
在不断发展的软件开发环境中大型语言模型LLM表现出一种被称为涌现能力的独特现象在从文本摘要到代码生成的众多任务中表现出娴熟的能力。虽然这些能力为软件设计和制作开辟了新的途径但它们的结合带来了巨大的挑战。开发人员努力解决在应用程序中直接嵌入LLM的决策而不是将其用于代码生成。此外考虑到从自然语言输出中提取数据的必要性有效的提示设计成为一个关键问题。为了解决这些复杂问题本文介绍了AskIt这是一种专门为LLM设计的领域专用语言DSL。AskIt简化了LLM集成提供了类型导向的输出控制、基于模板的函数定义和统一接口从而减少了基于LLM的代码生成和应用程序集成之间的区别。此外通过示例编程PBEAskIt在编程语言层面利用了少小样本学习的力量。我们的评估强调了AskIt的效力。在50个任务中AskIt为给定的任务生成了简洁的提示相对于基准提示长度减少了16.14%。此外通过实现从直接LLM应用程序使用到函数生成的过渡AskIt实现了显著的加速正如我们在GSM8K基准测试实验中观察到的那样。通过这些进步AskIt简化了软件开发中LLM的集成为利用紧急能力提供了一种更高效、更通用的方法。AskIt在TypeScript和Python中的实现可在https://github.com/katsumiok/ts-askit和https://github.com/katsumiok/pyaskit分别地找到。
1 引言
2 动机例子
3 设计与实现
4 实验评估
5 相关工作
6 结论
在本文中我们介绍了一种领域专用语言DSLAskIt。AskIt提供了一个统一的接口用于与各种任务的大型语言模型LLM进行交互。统一接口支持1LLM的类型引导输出控制2基于模板的函数定义3可编码任务的代码生成以及4示例编程。我们为TypeScript和Python实现了AskIt并用三个不同的实验对它们进行了评估。
