修改 npm 源
修改 npm 源最近 npm install 总是失败卡住，需要换 npm 源 临时使用 在 npm install XXX 时加入–registry URL即可，不会影响到本地配置，如： 1npm --registry https://registry.npmmirror.com install express 持久使用 永久修改本地npm的配置： 1npm config set r
归档: 2024/7
模型技术 - GGML
模型技术 - GGMLGGML 是一个纯C语言编写的张量库，可帮助开发者在消费级硬件上运行大模型。由于加速效果惊人，一下子收获了不少开发者的支持。 https://ggerganov.com/ http://ggml.ai/
模型量化技术 - GPTQ
模型量化技术 - GPTQ原文链接：https://blog.csdn.net/chattyfish/article/details/131874310 GPTQ是一种一次性权重量化方法，专为生成预训练Transformer（GPT）模型设计。该方法基于近似二阶信息，旨在实现高度准确和高效。 关于GPTQ的关键点： GPTQ可以在大约四个GPU小时内量化具有1750亿参数的GPT模型，将位宽减
AI 将创造哪些新的游戏玩法
AI 将创造哪些新的游戏玩法https://web.panewslab.com/zh/articledetails/78fxz9sj.html 包括生成式智能体、个性化、AI叙事、动态世界和AI副驾驶。 生成式智能体模拟游戏《模拟人生》，玩家在游戏中管理被称为 “模拟人 “的虚拟人，让他们过着自己的日常生活。 生成式AI可以通过大型语言模型（LLM）驱动的新兴社会行为，使得智能体更加逼真，从而大
Unity 第三方 AI 市场
Unity 第三方 AI 市场AtlasAtlas是利用生成式3D AI技术快速创作资产和虚拟世界的一系列工具，旨在打造多元化的3D物体。目前推出的第一个工具是语言图片神经网络，可以基于文字指令检索许可授权模型，你只需要简单描述你需要的资产，它就可以帮你导入到场景中。 通过AI技术，开发者还可以用Atlas快速创作游戏内地形。 ConvaiConvai是一款智能NPC工具，它可以用生成式AI技术
Inworld.ai
Inworld.aiInworld.ai是一个为虚拟游戏角色赋予智能和个性的AI应用开发平台，它可以让开发者通过自然语言描述和简单的控制，快速创建具有不同性格、情感、记忆和知识的AI角色，并将它们集成到各种实时应用中，如游戏、VR/AR、虚拟世界和元宇宙等。 Inworld.ai的目标是让AI角色能够与用户进行更自然、更有趣和更有意义的交互，提高用户的沉浸感和连接感。 角色引擎 Inw
版号国家新闻出版署查询
版号国家新闻出版署查询(一)官方网站查询路径: 1.游戏出版后,可通过国家新闻出版署的官方网站查询审批信息(具体位置:首页 > 办事服务 > 结果公示 > 游戏审批结果); https://www.nppa.gov.cn/bsfw/jggs/ 2.也可以通过游戏工委主办的“游戏产业网”的“版号查询”栏目查询审批信息; (二)官方出具的3类请示及批复文件,包含: 1.出版服务单位
用 .bat 批处理文件运行 conda 环境下的 Python 程序
用 .bat 批处理文件运行 conda 环境下的 Python 程序.bat 文件内容为： 1%windir%\System32\WindowsPowerShell\v1.0\powershell.exe -ExecutionPolicy ByPass -NoExit -Command "& 'C:\ProgramData\anaconda3\shell\conda
huggingface 上模型下载和通用运行方法
huggingface 上模型下载和通用运行方法下载模型1git clone -b int4 https://huggingface.co/THUDM/chatglm-6b.git 命令行 python 运行模型12345678910pythonmypath="F:\GIT_AI/chatglm-6b" # 导入依赖 from transformers import Au
CodeGeeX2 更强大的多语言代码生成模型的安装
CodeGeeX2 更强大的多语言代码生成模型的安装https://github.com/THUDM/CodeGeeX2 安装123456789101112131415161718conda create -n CodeGeeX2 python=3.10 -yconda activate CodeGeeX2pip3 install --upgrade pippip uninstall torch
LLM 模型的下载目录
LLM 模型的下载目录windows 下各个模型从 huggingface 下载后都在以下目录中： C:\Users\Administrator.cache\huggingface\hub
Vicuna 模型的安装
Vicuna 模型的安装Vicuna-13B是在LLaMa-13B的基础上使用监督数据微调得到的模型，数据集来自于ShareGPT.com产生的用户对话数据，共70K条。ShareGPT是一个ChatGPT数据共享网站，用户会上传自己觉得有趣的ChatGPT 回答。 使用 GPT-4 作为判断的初步评估表明，Vicuna-13B 达到了 OpenAI ChatGPT 和 Google Bard
OpenCompass LLM 评测简介
OpenCompass LLM 评测简介OpenCompass 是一款开源、高效、全面的评测大模型体系及开放平台。提供完整开源可复现的评测框架,支持大语言模型、多模态模型各类模型的一站式评测。 模型 发布日期 参数量 综合评分(均分) 综合评分(英文) 学科综合能力 语言能力 知识能力 理解能力 推理能力 ChatGPT 2023/3/1 N/A 62
BLOOM 简介
BLOOM 简介BLOOM 系列模型是由BigScience团队训练的大语言模型。训练数据包含了英语、中文、法语、西班牙语、葡萄牙语等共46种语言，另外还包含13种编程语言。 模型结构上，与GPT相同，BLOOM采用了causal decoder-only的transformer模型结构。 基于BLOOM衍生出来的大模型应用： 轩辕: 金融领域大模型，度小满在BLOOM-176B的基础上针对中
ChatGLM-6B 简介
ChatGLM-6B 简介ChatGLM-6B是清华大学提出的支持中英双语问答的对话语言模型。ChatGLM-6B采用了与GLM-130B相同的模型结构。 模型结构上，ChatGLM-6B采用了prefix decoder-only的transformer模型框架，在输入上采用双向的注意力机制，在输出上采用单向注意力机制。 基于ChatGLM衍生出来的大模型应用： langchain-Chat