标签: LLM

大语言模型的Temperature、Top-p、top_k

在使用开源的大语言模型或者调用大语言模型API的时候会遇到temperature、top_p、top_k等参数,对于不了解的LLM的原理的人,可能一头雾水,不知道如何设置。 LLM的原理 LLM看似很神奇,但本质还是一个概率问题…

本地大模型部署方案GPT4All

GPT4All简介 GPT4All 是一个开源项目,旨在使得大型语言模型(LLM)更加可访问和实用。该项目的目标是通过开源的方式提供一个可在本地运行的大型语言模型,使得用户可以在不依赖云服务的情况下利用强大的自然语言…

器→工具, 工具软件 ·

Ollama实战:单词卡片的生成

在上一篇文章大语言模型本地化部署工具Ollama,介绍了Ollama的使用,周末在家在此基础上实现了一个简答的单词卡片生成的尝试。内容比较基础。仅供学习。 项目目标 使用Python+Ollama本地生成单词卡片供学习新单词…

数据, 术→技巧 ·

大语言模型本地化部署工具Ollama

什么是Ollama? Ollama 是一个致力于简化和优化机器学习模型使用的开源平台。它的目标是让开发者和数据科学家能够更轻松地使用和部署大型语言模型(LLM),并提供了一系列工具和框架,以支持模型的加载、管理和运…