👋
Welcome
to
Cuterwrite 's
Blog
构建一个完整的 LLM 应用,仅仅拥有强大的模型是不够的。一个繁荣的 LLM 生态系统,需要涵盖从模型训练、优化到部署和应用的各个环节。本文将带您一览 LLM 生态的各个方面,探索如何将 LLM 真正应用到实际场景中。
本文转载于知乎专栏:14. RDMA 之 Memory Window,作者:Savir。为了更灵活方便的控制内存访问权限,IB 协议设计了 MW。本文主要介绍 MW 的作用、和 MR 的关系、接口以及分类。另外相比 MR 一文,对 L_Key 和 R_Key 进行了更深入的介绍。
本文转载于知乎专栏:11. RDMA 之 Shared Receive Queue,作者:Savir。IB 协议通过 SRQ 的机制大大减小了接收端对内存容量的需求,本文主要介绍 SRQ 的原理以及跟 RQ 的异同。
本文转载于知乎专栏:10. RDMA 之 Completion Queue,作者:Savir。CQ 和 QP 是相伴相生的,是硬件向软件“报告任务情况”的媒介,本文对协议中大部分跟 CQ 相关的内容作了分析和讲解。
本文转载于知乎专栏:9. RDMA 之 Queue Pair,作者:Savir。QP 是 RDMA 技术中最关键的概念,是软件向硬件“发号施令”的媒介,本文对协议中大部分跟 QP 相关的内容作了分析和讲解。