基于 llamafile 和 Continue 的本地AI代码助手
继“数字货币”和“区块链”之后,IT 业界目前最火的概念毫无疑问就是 “AI“ 了。些许值得庆幸的是,在经过一年多的发展后,名为 “AI” 实为 “LLM(大语言模型)”的领域已经有一些较为成熟的本地运行的方案,可以满足有隐私顾虑和网络受限的场景。本文将以 Fedora 41 为例介绍涉及的工具和对应的配置,搭建基于大语言模型的代码助手,其思路及基本步骤亦适用于 OSX 及 Windows 系统。
继“数字货币”和“区块链”之后,IT 业界目前最火的概念毫无疑问就是 “AI“ 了。些许值得庆幸的是,在经过一年多的发展后,名为 “AI” 实为 “LLM(大语言模型)”的领域已经有一些较为成熟的本地运行的方案,可以满足有隐私顾虑和网络受限的场景。本文将以 Fedora 41 为例介绍涉及的工具和对应的配置,搭建基于大语言模型的代码助手,其思路及基本步骤亦适用于 OSX 及 Windows 系统。
之前在本站分享过使用 PyRotch 在 AMD ROCm 框架实现的 Stable Diffusion 文生图应用配置教程。这个方案需要安装特定版本 PyTorch 且涉及一系列复杂的依赖关系,运行起来也对系统的硬件配置有不小要求。近期又由于 AMD 在新版 ROCm 移除了对于移动版 Radeon 显卡的支持,促使笔者开始寻找替代解决方案,此时发现支持 Vulkan 后端的 stable-diffusion.cpp 是个颇有希望的替代品。
stable-diffusion …
伪小长假即将到来,无论你是打算宅在家中躲避拥堵,还是打算成为一位出行的“大聪明”,本文精选的这几款经典游戏的开源引擎重制版,配合从业界良心 GOG.com合法获得的素材包,都能使你在或安静或拥堵的假期中再次领略没有氪金的美好。
这次的介绍的游戏符合均以下几个标准:
由于笔者并非 …
本文是Fedora 39 上指南的后续,同时附带了在升级过后需要注意的事项。
由于 ROCm 6.0 相对 5.7 在打包依赖关系上的变化,可能需要在卸载了过往的部分 ROCm 包之后才能正常升级,比如笔者就遇到了必须先删除如下包才能运行升级:
pkcon remove hipblas && pkcon remove hip-devel …
随着硬件性能的提升和技术的改进,以往仅能通过云端服务体验的生成式 AI 绘图也出现了可以在本地运行的版本,其中最受欢迎的就是Stable Diffusion 。以往这个过程需要依赖 Nvidia 显卡及闭源的 CUDA 框架,经过一系列社区开发者的努力,现在能在 Fedora 39 中经过简单的配置,用开源社区友好的 AMD 显卡加速本地运行的Stable Diffusion。
桌面 Linux 平台上知名的开源输入法框架 fcitx5 发布了 0.0.6 安卓版本,带来了插件系统,方便接下来支持更多输入法和语言。
0.0.6 版本在使用体验上的改善有:
GoldenDict-ng 是一款开源、功能全面、多格式的字典软件,可以在查询一个单词的时候从多本词典中显示结果。
支持包括 MDict、StarDict、DSL、Zim/Kiwix 等常见的离线字典格式 和 Wiktionary、DictD、LinguaLibre 等在线的资源。并且可以添加任意的网站和程序来当作字典的来源。
GoldenDict-ng 是由国人从原版 GoldenDict 分支出来的,相比原版:
基于开源非线性编辑媒体框架 MLT 的 Shotcut 最近发布了 23.05.14 版本,包含了众多改进和新功能。 实际上该版本为问题修订版,修复了在 23.05.07 版本发布后不少社区反馈的包括本地化语言缺失在内的重大问题,更适合非英语母语用户团体使用。
整个 23.05 版本包含了众多改进,可谓是功能满满:
入门级别或者早年购买的扫描打印一体机通常只具备 USB 连接功能,很难满足当下无线办公环境下的多人共享需求。而市面上销售的无线打印盒子几乎都依赖第三方的云端服务实现基本的功能,安全及长期可靠性难以保障。 实际上,只需要借助空闲的树梅派甚至 Vero 4K 机顶盒,就可以为这些老旧的设备插上飞升的翅膀,拥抱无线办公/教学的浪潮。
接下来要描述的实现方案设计出发点为:
Duplicacy 是一款跨平台的开源文件备份工具,在提供健壮的增量式备份机制的同时又不依赖索引数据库,独具一格。最近发布了其命令行 3.0.1 版本。
相对于其他开源文件备份工具诸如 duplicity / Deja Dup 和 BorgBackup / Pika Backup,Duplicacy 有如下特点:
LinuxTOY 是一个致力于提供 Linux 相关资讯的专题站点。如果您发现了好用好玩的 Linux 东东并愿意发扬自由、分享的精神,可以点击左部导航 Contact 按钮进行投稿。