Ben-air


  • 首页

  • 分类

  • 归档

  • 标签

  • 关于

  • 搜索

5020.大模型-开源模型资源

发表于 2024-07-11 | 分类于 LLM
开源模型测评仓库CLiB中文大模型能力评测榜单-github 模型列表 模型 git仓库 模型特点 模型大小 运行资源 Llama 3 github 8B / 70B Phi-3 huggingface 小巧可以运行在手机上 Qwen1.5-110B huggin ...
阅读全文 »

开源模型介绍 - Llama

发表于 2024-07-11 | 分类于 LLM
开源模型测评仓库CLiB中文大模型能力评测榜单-github 模型列表 模型 git仓库 模型特点 模型大小 运行资源 Llama 3 github 8B / 70B Phi-3 huggingface 小巧可以运行在手机上 Qwen1.5-110B huggin ...
阅读全文 »

5004.大模型-优化部署模型

发表于 2024-07-10 | 分类于 LLM
Distillation用一个teacher模型来训练一个student模型 Quantization将训练后的模型进行量化,降低数据的精度,从而降低模型的复杂度和对资源的需求。 Pruning模型剪枝,删除冗余模型,或去除模型中权重很低,贡献不大的节点, Full model re-traini ...
阅读全文 »

大模型-效果评估

发表于 2024-07-09 | 分类于 LLM
一些评估模型的指标传统的机器学习中,我们可以通过已知输出的训练集和验证数据集的性能表现来评估模型的性能表现,通过计算获得简单的指标,比如使用 准确性(=correct predictions/total predictions)来计算模型的性能表现。但是对于输出不确定的大预言模型 ...
阅读全文 »

大模型 - 微调方法 - PEFT

发表于 2024-07-08 | 分类于 LLM , 微调
微调的方法分类参数规模从参数规模的角度,大模型的微调分成两条技术路线: 全量微调FFT(Full Fine Tuning),是对全量的参数,进行全量的训练。用特定的数据,对大模型进行训练,将W 变成W’ ,W’相比W ,最大的优点就是上述特定数据领域的表现会好很多。主要问题: 一个是训练的成本会比 ...
阅读全文 »

模型优化 使用Lora方法优化Qwen2模型,实现NER性能提

发表于 2024-07-08 | 分类于 LLM , 微调
参考 123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778 ...
阅读全文 »

大模型 - 微调方法 - PEFT

发表于 2024-07-08 | 分类于 LLM , 微调
微调的方法分类参数规模从参数规模的角度,大模型的微调分成两条技术路线: 全量微调FFT(Full Fine Tuning),是对全量的参数,进行全量的训练。用特定的数据,对大模型进行训练,将W 变成W’ ,W’相比W ,最大的优点就是上述特定数据领域的表现会好很多。主要问题: 一个是训练的成本会比 ...
阅读全文 »

基本概念

发表于 2024-07-05 | 分类于 LLM
怎么部署一个开源的模型 初步了解执行的原理 怎么用自己的数据对模型进行微调 如何评估、量化模型的表现 概念定义Learning technique of Machine Learning Model: One-shot learning – each new class has one labe ...
阅读全文 »

Dag-有向无环图

发表于 2024-07-04 | 分类于 Tobeinsert
有向无环图(DAG),数据流的基石。在当今快速发展的信息技术领域,数据流的管理和优化是至关重要的。有向无环图(DAG)作为一种数据结构,因其独特的优势,在多个领域中发挥着关键作用。本文将深入探讨DAG的用途、应用场景、基本逻辑和语法。 DAG简介有向无环图(Directed Acyclic Grap ...
阅读全文 »

健康管理师-重点记忆知识点

发表于 2024-06-17 | 分类于 Tobeinsert
重点指标: 正常成年人膳食中蛋白质、脂肪、碳水化合物适宜的供能比分别为:10%-15%:20%-30%:50%-65%。 尿液一般检测包括:①一般性状检测:尿量、气味、外观、比重、酸碱度等;②化学检测:尿蛋白、尿糖、尿酮体、尿胆原、尿胆红素等;③尿沉渣检测:细胞、管型、结晶体等。 血常规检测项目包 ...
阅读全文 »
‹1…646566…94›

939 日志
108 分类
794 标签
© 2026 Ben-air
已有人访问 | 总访问次