端侧 AI 推理部署:性能、隐私与功耗之间的工程取舍

端侧 AI 推理部署:性能、隐私与功耗之间的工程取舍一、端侧 AI 的价值:不是把云端模型硬搬下来端侧 AI 推理正在变得越来越重要。把模型部署在手机、工控设备、PC 或边缘网关上,可以降低网络依赖,减少敏感数据上传,并提升响应速度。但端侧资源有限,CPU、内存、存储、功耗和散热都会限制模型能力。端侧 AI 的核心

我的区块链运维日记 · 第 8 日:大水冲了龙王庙 —— 自家节点的“IP 拉黑”与限流危机

📝 主题:大水冲了龙王庙 —— 自家节点的“IP 拉黑”与限流危机🚨 序章:速度的代价搞定了第 7 天的数据一致性问题后,Scanner 终于学会了“核对账本”。但为了求稳,速度慢了不少。 我想着:“既然我已经把 AWS AMB 节点升到了 m5.large,带宽和 IOPS 都拉满

区块链的“三种底色”:公链、联盟链、私有链全面对比与场景适配指南

区块链的“三种底色”:公链、联盟链、私有链全面对比与场景适配指南 1. 引言:不是所有区块链都“去中心化” 2. 三类区块链核心定义 2.1 公有链:完全开放的“数字共和国” 2.2 联盟链:多中心化的“商业联盟” 2.3 私有链:完全封闭的“企业内部系统” 3. 三维度核心对比:去中心化、

数据结构篇(七):线性表——双端队列

前言前面讲了栈(一端进出)和队列(一端进、一端出)。这一篇讲双端队列——顾名思义,它把栈和队列的能力结合在了一起:两端都能插入,两端都能删除。理解了双端队列,再看C++ STL的deque、Java的ArrayDeque会更加清晰,同时它也是很多算法题&#x

不尚贤,使民不争

一次和同事说他的一个有才能的前部门同事离职,有一部分原因归咎于他当初对那同事太好,树立那同事当大榜样。不过那时只是聊天随口说说。 后来想了想,我脑子里自然地就冒出这个想法,许多管理者也在这么做,应该是个比较常识的东西。然而其理论是什么呢?朋友看书恰好看到道德经里的不尚贤,使民不争。 他说,你看,这个很好地印证了你文章里,说你那个同事离开是由于领导对他太好,引起妒忌,然后那同事待不下去,只好走了的事

Linux 块设备驱动开发:从请求队列到 I/O 调度的内核路径解析

Linux 块设备驱动开发:从请求队列到 I/O 调度的内核路径解析一、存储 I/O 的内核瓶颈——块设备驱动为何是系统性能的关键枢纽块设备(Block Device)是 Linux 系统中最核心的设备类别之一,硬盘、SSD、NVMe、虚拟磁盘均属于此类。与字符设备的流式读写不同,块设备的 I/O 操作以固定大小的块&#xff0

【知识讲解】 哈希表的介绍与实现

目录前言Part1. unordered_map和setPart1.1. 有序性差异Part1.2. 迭代器特性Part1.3. Key约束Part2. 哈希表核心原理Part2.1. 两种基础映射方案Part2.1.1. 直接定址法Part2.1.2. 哈希函数映射法Part2.2. 哈希冲突定义Part2.3. 负载因子Part2.4. 哈希冲突解决方案Part2.4.1. 开放寻址

共识机制全面解读:区块链信任机器的核心引擎

共识机制全面解读:区块链信任机器的核心引擎 1. 引言:没有共识,区块链只是一盘散沙 2. 为什么区块链需要共识?——去中心化的“秩序难题” 2.1 分布式系统的天然困境 2.2 共识机制如何化解“无序自由”? 3. 共识机制的核心工作流程 4. 四大主流共识机制详解 4.1 PoW(工

区块链 + AI 项目半年复盘:技术可行不等于商业可行

区块链 + AI 项目半年复盘:技术可行不等于商业可行一、Demo 获得满堂彩,Demo Day 后 3 个月零付费用户这个项目做了一个"区块链存证 + AI 确权"的创作者版权保护平台。技术方案很酷:AI 自动检测图片/文章的抄袭(基于 Embedding 相似度),区块链记录原创

又一次经历

收到面试通知时没觉得有什么紧张的,等真去面试先看到一楼的粉红色路引时一下子有了被重视的感觉,正式感也油然而生。 在面试楼层签到、落坐等候叫号,想起过教资面试的场面。 这场面试和上一次不一样。 在等候的时间我继续看《西藏生死书》,让心静下来,也会想一会儿面试会问什么? 叫到名字的一瞬间我的心还是扑通扑通紧张了几下,直到见到三位面试官,她们还是很和蔼可亲的。 因为有过志愿者经历所以回答一些问题并不难,