标签: LLM

开源大模型应用开发平台Coze

Coze简介 Coze(中文名“扣子”)是字节跳动推出的一站式AI应用开发平台,旨在降低AI应用开发门槛,让用户无需编程经验即可快速创建、调试和部署各类AI智能体(如聊天机器人、自动化工具等)。以下将从平台定位、核…

器→工具, 开源项目 ·

开源大模型应用开发平台 Dify

Dify 平台概述 Dify 是什么? Dify 是一个开源的 LLMOps(大语言模型运维)平台,旨在帮助开发者与企业通过可视化、低代码的方式,快速构建、部署和管理基于大语言的生成式 AI 应用。其名称来源于 “Define” 和 “M…

器→工具, 开源项目 ·

多智能体协作框架CrewAI

CrewAI简介 CrewAI是一个基于LangChain构建的多智能体框架,其设计目标是通过促进协作智能,使AI智能体能够无缝协作处理复杂的任务。它专注于协调角色扮演的自主AI Agent,通过使用LLM大语言模型作为协调器来促进…

器→工具, 工具软件 ·

大语言模型的Temperature、Top-p、top_k

在使用开源的大语言模型或者调用大语言模型API的时候会遇到temperature、top_p、top_k等参数,对于不了解的LLM的原理的人,可能一头雾水,不知道如何设置。 LLM的原理 LLM看似很神奇,但本质还是一个概率问题…

本地大模型部署方案GPT4All

GPT4All简介 GPT4All是一个开源项目,旨在使得大型语言模型(LLM)更加可访问和实用。该项目的目标是通过开源的方式提供一个可在本地运行的大型语言模型,使得用户可以在不依赖云服务的情况下利用强大的自然语言处…

器→工具, 工具软件 ·

Ollama实战:单词卡片的生成

在上一篇文章大语言模型本地化部署工具Ollama,介绍了Ollama的使用,周末在家在此基础上实现了一个简答的单词卡片生成的尝试。内容比较基础。仅供学习。 项目目标 使用Python + Ollama本地生成单词卡片供学习新单词…

数据, 术→技巧 ·

大语言模型本地化部署工具Ollama

什么是Ollama? Ollama是一个致力于简化和优化机器学习模型使用的开源平台。它的目标是让开发者和数据科学家能够更轻松地使用和部署大型语言模型(LLM),并提供了一系列工具和框架,以支持模型的加载、管理和运行…