今日技术情报 · 2026-10-26Daily Tech Intel · 2026-10-26本日の技術インテリジェンス · 2026-10-26
📌 今日要闻
1. OpenAI 对 Anthropic 大客户开出最高 90% 折扣,Rippling/Replit/DataCamp 称切换后 AI 成本降九成
价格战从“中国低价档互压”扩散到美国两家头部之间——HN 同日热帖在拆解“几个月内 LLM 价格降 80% 靠什么撑住”。对正在做多模型路由的团队,现在该重跑一遍成本模型:把主力流量按 90% 折扣价重算,可能推翻上季度定的自托管/微调 ROI 结论。 · The Decoder / HN
2. Anthropic 公开架构对比:单 agent 比多 subagent 快约 2 倍,并放出迁移工具包
与 10-19 报道的 Google Harness2(agent 自改脚手架)方向相反——这条在说“别拆了,合并”。对已经用 LangGraph/CrewAI 铺了多层 subagent 的团队,这是第一次有厂商给出可对照的延迟数字和迁移路径;先拿一条现有链路做单 agent 重写,量一下端到端延迟和 token 总量。 · The Decoder
3. Nvidia 开源 Flora:1 小时机器人视频标注 0.72 美元,GPT-6 Astra 要 88 美元,质量还略高
基于三个微调过的 Qwen3.5 模型拼成数据引擎,125 倍价差不是靠蒸馏而是靠任务专用小模型替代通用大模型。做具身智能/视频数据管线的团队,这是“通用 VLM 打标”成本结构被专用小模型击穿的第一个公开可复现案例;局限是作者自己承认某些场景会漏判。 · The Decoder
4. 三星电视拿到 root shell,HN 787👍 / 605 评论
不是漏洞披露而是完整提权链公开,讨论集中在“智能电视的信任边界本来就不存在”。任何把电视/机顶盒当可信终端做 DRM、家庭网关或投屏鉴权的设计,今天要重新评估:终端侧密钥在物理可达设备上等于明文。 · HN
5. 10 年前的老 CNN 在皮肤癌诊断上超过前沿 LLM,HN 462👍 / 216 评论
具体任务上专用小模型仍碾压通用大模型——和今天 Flora 那条是同一个结论的两个证据。对正在评估“把领域任务交给通用多模态模型”的团队,这是本周最该转给产品侧的一篇:先建专用基线,再谈 LLM。 · lynchlab.net
⚡ 趋势信号
“专用小模型替代通用大模型”在成本和质量上同时成立:Flora(125x 便宜)、皮肤癌 CNN(超前沿 LLM)、GPT-X3-150M 登顶 Open SLM 榜,三条独立证据同一天出现。工程决策上的直接影响:领域数据管线和高频分类任务应默认先训/微调小模型,通用大模型只留作冷启动和长尾兜底。
7 天脉络:10-20 MiniMax M3.1 Flash 把单任务成本压到 <$0.30、10-21 DeepSeek 开源 DeepInfer 公开低价档成本结构、10-25 起 OpenAI 用 90% 折扣换份额——价格战在上游,下游的应对是“该用小的别用大的”。
🛠️ 本周行动
- 挑一条现有多 subagent 链路,按 Anthropic 迁移工具包改写成单 agent,对比端到端延迟与 token 总量,验证“合并后更快”是否在你的任务分布上成立
- 用
pip show litellm复查 1.107.0 投毒事件的 key 轮换是否覆盖全部环境(含 CI secret),并顺手核对证书链里有无 eMudhra 交叉签名路径
📂 分源速览
📰 科技媒体
- AI delivers ‘zero financial payoff’ to most companies, Apollo economist says
TechCrunch:除科技业外,企业 AI 投入未见财务回报——与今天 90% 折扣、低价档互压是同一条成本曲线的两端,预算审批话术要改 - OpenMobile-2 proves open-source smartphone agents can rival proprietary models
The Decoder:110+ 应用(含 35 个热门应用复刻)的训练环境,真机 Android 上追平闭源;提升来自应用多样性而非数据量 - Anthropic co-founder Jack Clark moves his prediction for self-improving AI forward to 2027
The Decoder:依据是 P-Zero Research 新基准测“模型自主设计并评估实验”的能力,提升速度超预期 - r/opensource just banned AI, non-English speakers, and more
The Verge:版规直接封禁 AI 相关项目与非英语发帖者,开源社区分化的一个可观测样本
🔥 GitHub Trending
- coollabsio/coolify ⭐64,496 (+152):PHP 写的自托管 PaaS,360+ 一键服务,对标 Vercel/Heroku;比自建 K8s 省运维,但多租户隔离和弹性伸缩远不如后者
- mantrakp04/ardia ⭐831 (+97):Mac 上的免费 Chromium 浏览器,复刻 Arc 侧边栏 + Dia 的观感;Arc 被 Atlassian 收购转向 Dia 后的空档产物,扩展生态为零
- nightly-labs/openbot ⭐999 (+86):本地优先桌面工作区,Codex/Claude/Grok 各占独立 workspace,带任务队列与 agent 间协作;多 agent 编排的桌面端形态,与今天 Anthropic“单 agent 更快”的结论相左,值得实测
- JetBrains/thinkrail ⭐1,883 (+51):JetBrains 出的轻量 IDE,主打按工作方式自我定制;官方出品意味着长期维护承诺比同类 vibe-coding 工具强
- MoonshotAI/kimi-code ⭐8,016 (+16):Kimi 的 agent CLI 入口,星数已高但今日增量趋缓
🤗 HuggingFace 热门模型
- Nanbeige/Nanbeige4.3-33B
text-generation❤️397:33B 开源权重,社区已出 GGUF 量化版(AtomicChat),适合替换本地 30B 档通用对话/编码工作流
🧠 AI/ML 论文
- HoloBoxing: A Simple Recipe for Humanoid Boxing with 7 Minutes of Single-GPU Training:冻结预训练全身控制器、只训 32 维动作解码器+规划器,单卡 7 分钟学会人形拳击——把“重学全身控制”的成本砍掉,是分层控制复用的干净样例
- Echo: Coupled Action and Task Status Signal Denoising for VLA Models:把任务完成/失败信号与动作生成耦合学习,省掉外部监控模型和细粒度标注,VLA 执行决策不再依赖额外监督
- Generalized CycleGRPO:用“描述→定位→重建重叠”作可验证奖励,统一空间/时间/时空三域的 region 理解与定位,免掉任务专用标注
💬 Hacker News
- Root shell on Samsung TV 👍787:完整提权链公开,争论点是智能电视该不该有可信终端地位
- A 10-year-old CNN outperforms frontier LLMs for skin cancer diagnosis 👍462:专用小模型在窄任务上仍胜通用多模态,评论区在争“LLM 评测该不该跨任务比”
- I refuse to accept a censored Internet. Join Me at FOSDEM 27 👍404:与 r/opensource 封禁 AI 同日出现,社区治理与开放网络两条线在收紧
- OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why? 👍180 / 💬206:评论数高于点赞,说明分歧大——成本结构能否持续是主要争点
🧵 Reddit r/LocalLLaMA
- Strata/Basalt runs Qwen3.8 Flash Next IQ3_S with 16GB VRAM + 55GB RAM, up to 250 tok/s generation, 5,600 tok/s prompt processing (5080, 并发 1):消费级单卡跑 125B 级 MoE 量化的实测数字,prompt 吞吐是关键
- RTX 3080 20GB got reBAR and P2P unlock! +70% prompt processing speed:改卡解锁 P2P 后 prompt 处理提升 70%,多卡本地推理的性价比路线
- Lean-QwenFlash: Qwen3.8-Flash-Next (125B) ~20 tok/s on 16GB VRAM + 8GB RAM via direct NVMe offloading:绕过内存直读 NVMe 跑 125B,20 tok/s 可用但仅适合低并发
🚀 Product Hunt
📌 Today’s Top Stories
1. OpenAI offers discounts of up to 90% to Anthropic’s largest customers; Rippling/Replit/DataCamp say AI costs dropped 90% after switching
The price war has spread from “Chinese low-price tiers undercutting each other” to between the two US leaders—a same-day HN hot thread breaks down “what sustains an 80% LLM price drop within a few months.” For teams building multi-model routing, it’s time to rerun the cost model: recalculating primary traffic at the 90% discount price may overturn last quarter’s self-hosting/fine-tuning ROI conclusions. · The Decoder / HN
2. Anthropic publishes architecture comparison: a single agent is about 2x faster than multiple subagents, and releases a migration toolkit
This runs counter to the direction of Google Harness2 (agents modifying their own scaffolding) reported on 10-19—this one says “stop splitting, merge.” For teams that have already built multi-layer subagents with LangGraph/CrewAI, this is the first time a vendor has provided comparable latency numbers and a migration path; start by rewriting one existing pipeline as a single agent and measure end-to-end latency and total tokens. · The Decoder
3. Nvidia open-sources Flora: robot video labeling at $0.72 per hour vs. $88 for GPT-6 Astra, with slightly higher quality
Built on three fine-tuned Qwen3.5 models assembled into a data engine, the 125x price gap comes not from distillation but from task-specific small models replacing general large models. For teams working on embodied intelligence/video data pipelines, this is the first publicly reproducible case of the “general VLM labeling” cost structure being undercut by specialized small models; the limitation is that the authors themselves admit some scenarios will be misjudged. · The Decoder
4. Samsung TV rooted to a shell, HN 787👍 / 605 comments
This is not a vulnerability disclosure but a full privilege-escalation chain made public; discussion centers on “the trust boundary of smart TVs never existed in the first place.” Any design that treats TVs/set-top boxes as trusted endpoints for DRM, home gateways, or screen-casting authentication needs reassessment today: on-device keys on physically accessible devices are effectively plaintext. · HN
5. A 10-year-old CNN outperforms frontier LLMs in skin cancer diagnosis, HN 462👍 / 216 comments
Specialized small models still crush general large models on specific tasks—two pieces of evidence for the same conclusion as today’s Flora story. For teams evaluating “handing domain tasks to general multimodal models,” this is the piece to forward to the product side this week: build a specialized baseline first, then talk about LLMs. · lynchlab.net
⚡ Trend Signals
“Specialized small models replacing general large models” holds on both cost and quality: Flora (125x cheaper), the skin cancer CNN (beating frontier LLMs), and GPT-X3-150M topping the Open SLM leaderboard—three independent pieces of evidence appearing on the same day. The direct engineering implication: domain data pipelines and high-frequency classification tasks should default to training/fine-tuning small models first, reserving general large models only for cold start and long-tail fallback.
7-day thread: 10-20 MiniMax M3.1 Flash pushes single-task cost below $0.30, 10-21 DeepSeek open-sources DeepInfer revealing the low-price tier cost structure, from 10-25 OpenAI uses 90% discounts to buy share—the price war is upstream, and the downstream response is “use small models where you should, not large ones.”
🛠️ This Week’s Actions
- Pick an existing multi-subagent pipeline, rewrite it as a single agent following Anthropic’s migration toolkit, compare end-to-end latency and total tokens, and verify whether “faster after merging” holds on your task distribution
- Use
pip show litellmto recheck whether the key rotation for the 1.107.0 supply-chain poisoning incident covers all environments (including CI secrets), and also check the certificate chain for any eMudhra cross-signing path
📂 Source Roundup
📰 Tech Media
- AI delivers ‘zero financial payoff’ to most companies, Apollo economist says
TechCrunch: Outside tech, enterprise AI spending shows no financial return—two ends of the same cost curve as today’s 90% discounts and low-price tiers undercutting each other; budget approval talking points need to change - OpenMobile-2 proves open-source smartphone agents can rival proprietary models
The Decoder: A training environment of 110+ apps (including 35 popular app replicas) matches closed-source on real Android devices; the gains come from app diversity rather than data volume - Anthropic co-founder Jack Clark moves his prediction for self-improving AI forward to 2027
The Decoder: Based on a new P-Zero Research benchmark measuring “models autonomously designing and evaluating experiments,” progress is faster than expected - r/opensource just banned AI, non-English speakers, and more
The Verge: Subreddit rules directly ban AI-related projects and non-English posters—an observable sample of open-source community fragmentation
🔥 GitHub Trending
- coollabsio/coolify ⭐64,496 (+152): A self-hosted PaaS written in PHP with 360+ one-click services, positioned against Vercel/Heroku; saves ops effort versus self-built K8s, but multi-tenant isolation and elastic scaling are far behind
- mantrakp04/ardia ⭐831 (+97): A free Chromium browser for Mac replicating Arc’s sidebar + Dia’s look and feel; a product of the gap after Arc was acquired by Atlassian and pivoted to Dia, with zero extension ecosystem
- nightly-labs/openbot ⭐999 (+86): A local-first desktop workspace where Codex/Claude/Grok each get an independent workspace, with task queues and inter-agent collaboration; a desktop form of multi-agent orchestration that conflicts with today’s Anthropic conclusion that “a single agent is faster”—worth testing
- JetBrains/thinkrail ⭐1,883 (+51): A lightweight IDE from JetBrains focused on self-customization to your way of working; an official product means a stronger long-term maintenance commitment than similar vibe-coding tools
- MoonshotAI/kimi-code ⭐8,016 (+16): Kimi’s agent CLI entry point; star count is already high but today’s growth is slowing
🤗 HuggingFace Trending Models
- Nanbeige/Nanbeige4.3-33B
text-generation❤️397: 33B open weights, with a community GGUF quantized version (AtomicChat) already available; suitable for replacing local 30B-tier general chat/coding workflows
🧠 AI/ML Papers
- HoloBoxing: A Simple Recipe for Humanoid Boxing with 7 Minutes of Single-GPU Training: Freeze a pretrained whole-body controller and train only a 32-dim action decoder + planner, learning humanoid boxing in 7 minutes on a single GPU—cutting the cost of “relearning whole-body control,” a clean example of hierarchical control reuse
- Echo: Coupled Action and Task Status Signal Denoising for VLA Models: Jointly learns task success/failure signals with action generation, eliminating external monitoring models and fine-grained labels; VLA execution decisions no longer depend on extra supervision
- Generalized CycleGRPO: Uses “description→localization→reconstruction overlap” as a verifiable reward, unifying region understanding and localization across spatial/temporal/spatiotemporal domains, eliminating task-specific labels
💬 Hacker News
- Root shell on Samsung TV 👍787: A full privilege-escalation chain made public; the debate is whether smart TVs should have trusted-endpoint status
- A 10-year-old CNN outperforms frontier LLMs for skin cancer diagnosis 👍462: Specialized small models still beat general multimodal models on narrow tasks; commenters debate “whether LLM evaluations should compare across tasks”
- I refuse to accept a censored Internet. Join Me at FOSDEM 27 👍404: Appearing the same day as r/opensource’s AI ban, both community governance and the open web are tightening
- OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why? 👍180 / 💬206: Comments outnumber upvotes, indicating strong disagreement—whether the cost structure is sustainable is the main point of contention
🧵 Reddit r/LocalLLaMA
- Strata/Basalt runs Qwen3.8 Flash Next IQ3_S with 16GB VRAM + 55GB RAM, up to 250 tok/s generation, 5,600 tok/s prompt processing (5080, concurrency 1): Measured numbers for running a 125B-class MoE quantized model on a consumer single GPU; prompt throughput is key
- RTX 3080 20GB got reBAR and P2P unlock! +70% prompt processing speed: Modded cards unlock P2P for a 70% prompt processing boost—a cost-effective path for multi-GPU local inference
- Lean-QwenFlash: Qwen3.8-Flash-Next (125B) ~20 tok/s on 16GB VRAM + 8GB RAM via direct NVMe offloading: Runs 125B by reading directly from NVMe, bypassing memory; 20 tok/s is usable but only for low concurrency
🚀 Product Hunt
📌 今日の重要ニュース
1. OpenAI、Anthropic の大口顧客に最大 90% の割引を提示、Rippling/Replit/DataCamp は切り替え後に AI コストが 9 割減と発言
価格競争は「中国の低価格帯同士の潰し合い」から米国トップ2社の間に拡大——HN では同日、「数か月で LLM 価格が 80% 下がったのは何が支えているのか」を分析するホットスレッドも登場。マルチモデルルーティングを進めているチームは、今こそコストモデルを再計算すべきだ。主力トラフィックを 90% 割引価格で再計算すると、前四半期に決めた自社ホスティング/ファインチューニングの ROI 結論が覆る可能性がある。 · The Decoder / HN
2. Anthropic がアーキテクチャ比較を公開:単一 agent は複数 subagent より約 2 倍高速、移行ツールキットも提供
10-19 で報じた Google Harness2(agent が自ら足場を改変)とは逆方向——こちらは「分割するな、統合せよ」と言っている。すでに LangGraph/CrewAI で多層 subagent を敷いているチームにとって、ベンダーが比較可能なレイテンシ数値と移行パスを示したのは初めてだ。まず既存の 1 本のチェーンを単一 agent で書き直し、エンドツーエンドのレイテンシとトークン総量を測ってみよう。 · The Decoder
3. Nvidia が Flora をオープンソース化:ロボット動画のアノテーションが 1 時間 0.72 ドル、GPT-6 Astra は 88 ドル、しかも品質はやや高い
3 つのファインチューニング済み Qwen3.5 モデルを組み合わせたデータエンジンで、125 倍の価格差は蒸留ではなくタスク専用小モデルによる汎用大モデルの代替によって実現。エンボディド AI/動画データパイプラインに取り組むチームにとって、「汎用 VLM によるラベリング」のコスト構造が専用小モデルに突破された、初の公開再現可能な事例だ。限界は、著者自身が一部のシナリオでは見逃しが発生すると認めている点。 · The Decoder
4. Samsung 製テレビで root shell を取得、HN 787👍 / 605 コメント
脆弱性の開示ではなく完全な権限昇格チェーンが公開された形で、議論は「スマートテレビの信頼境界はそもそも存在しない」に集中。テレビ/セットトップボックスを信頼できる端末として DRM、家庭用ゲートウェイ、画面キャスト認証を設計しているものは、今日再評価すべきだ。端末側の鍵は、物理的に到達可能なデバイス上では平文と同じである。 · HN
5. 10 年前の古い CNN が皮膚がん診断で最先端 LLM を上回る、HN 462👍 / 216 コメント
特定タスクでは専用小モデルが依然として汎用大モデルを圧倒する——今日の Flora の記事と同じ結論を示す 2 つ目の証拠だ。「ドメインタスクを汎用マルチモーダルモデルに任せる」ことを評価中のチームにとって、今週最もプロダクト側に共有すべき記事:まず専用ベースラインを構築し、それから LLM を語れ。 · lynchlab.net
⚡ トレンドシグナル
「専用小モデルによる汎用大モデルの代替」がコストと品質の両面で同時に成立:Flora(125 倍安価)、皮膚がん CNN(最先端 LLM を超える)、GPT-X3-150M が Open SLM ランキング首位、という 3 つの独立した証拠が同じ日に出現。エンジニアリング判断への直接的な影響:ドメインデータパイプラインと高頻度の分類タスクでは、デフォルトで小モデルの学習/ファインチューニングを優先し、汎用大モデルはコールドスタートとロングテールのフォールバックにのみ残すべきだ。
7 日間の流れ:10-20 に MiniMax M3.1 Flash が単一タスクコストを <$0.30 に圧縮、10-21 に DeepSeek が DeepInfer をオープンソース化し低価格帯のコスト構造を公開、10-25 から OpenAI が 90% 割引でシェアを獲得——価格競争は上流で起きており、下流の対応は「小さいものを使うべきところで大きいものを使わない」ことだ。
🛠️ 今週のアクション
- 既存のマルチ subagent チェーンを 1 本選び、Anthropic の移行ツールキットに従って単一 agent に書き換え、エンドツーエンドのレイテンシとトークン総量を比較し、「統合後に速くなる」が自分のタスク分布で成立するか検証する
pip show litellmで 1.107.0 のサプライチェーン攻撃事件の key ローテーションが全環境(CI secret 含む)をカバーしているか再確認し、ついでに証明書チェーンに eMudhra のクロス署名パスがないかも確認する
📂 ソース別クイックビュー
📰 テックメディア
- AI delivers ‘zero financial payoff’ to most companies, Apollo economist says
TechCrunch:テック業界を除き、企業の AI 投資に財務的リターンは見られない——今日の 90% 割引や低価格帯同士の潰し合いと同じコスト曲線の両端であり、予算承認の説明トークは変える必要がある - OpenMobile-2 proves open-source smartphone agents can rival proprietary models
The Decoder:110+ アプリ(人気アプリ 35 個の再現を含む)のトレーニング環境で、実機 Android 上でクローズドソースに追いつく。向上はデータ量ではなくアプリの多様性から - Anthropic co-founder Jack Clark moves his prediction for self-improving AI forward to 2027
The Decoder:根拠は P-Zero Research の新ベンチマークで「モデルが自律的に実験を設計・評価する」能力を測定したところ、向上速度が予想を上回ったこと - r/opensource just banned AI, non-English speakers, and more
The Verge:コミュニティルールで AI 関連プロジェクトと非英語話者の投稿を直接禁止、オープンソースコミュニティの分断を示す観測可能なサンプル
🔥 GitHub Trending
- coollabsio/coolify ⭐64,496 (+152):PHP 製のセルフホスト PaaS、360+ のワンクリックサービス、Vercel/Heroku に対抗。自前 K8s より運用が楽だが、マルチテナント分離と弾力的スケーリングは後者に遠く及ばない
- mantrakp04/ardia ⭐831 (+97):Mac 向け無料 Chromium ブラウザ、Arc のサイドバー + Dia の見た目を再現。Arc が Atlassian に買収され Dia へ転換した後の空白を突いた産物で、拡張エコシステムはゼロ
- nightly-labs/openbot ⭐999 (+86):ローカルファーストのデスクトップワークスペース、Codex/Claude/Grok がそれぞれ独立した workspace を持ち、タスクキューと agent 間連携を備える。マルチ agent オーケストレーションのデスクトップ形態で、今日の Anthropic「単一 agent の方が速い」という結論と相反するため、実測する価値あり
- JetBrains/thinkrail ⭐1,883 (+51):JetBrains 製の軽量 IDE、働き方に合わせた自己カスタマイズが売り。公式製品であることは、同種の vibe-coding ツールより長期メンテナンスの約束が強いことを意味する
- MoonshotAI/kimi-code ⭐8,016 (+16):Kimi の agent CLI エントリポイント、スター数はすでに高いが今日の増分は鈍化
🤗 HuggingFace 人気モデル
- Nanbeige/Nanbeige4.3-33B
text-generation❤️397:33B のオープンウェイト、コミュニティが GGUF 量子化版(AtomicChat)を公開済み。ローカルの 30B クラス汎用対話/コーディングワークフローの置き換えに適する
🧠 AI/ML 論文
- HoloBoxing: A Simple Recipe for Humanoid Boxing with 7 Minutes of Single-GPU Training:事前学習済み全身コントローラを凍結し、32 次元の動作デコーダ+プランナのみを学習、単一 GPU で 7 分でヒューマノイドボクシングを習得——「全身制御を一から学び直す」コストを削減する、階層制御再利用のクリーンな事例
- Echo: Coupled Action and Task Status Signal Denoising for VLA Models:タスク完了/失敗シグナルと動作生成を結合して学習し、外部監視モデルと細粒度アノテーションを不要に。VLA の実行判断が追加の監督に依存しなくなる
- Generalized CycleGRPO:「記述→定位→再構築の重なり」を検証可能な報酬として用い、空間/時間/時空間の 3 領域における region 理解と定位を統一、タスク専用アノテーションを不要に
💬 Hacker News
- Root shell on Samsung TV 👍787:完全な権限昇格チェーンが公開、論点はスマートテレビに信頼できる端末としての地位を与えるべきか
- A 10-year-old CNN outperforms frontier LLMs for skin cancer diagnosis 👍462:専用小モデルは狭いタスクでは依然として汎用マルチモーダルに勝る、コメント欄では「LLM 評価はタスク横断で比較すべきか」が議論に
- I refuse to accept a censored Internet. Join Me at FOSDEM 27 👍404:r/opensource の AI 禁止と同日に登場、コミュニティガバナンスとオープンネットワークの 2 本の線が同時に締まっている
- OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why? 👍180 / 💬206:コメント数がいいねを上回り、意見の分断が大きいことを示す——コスト構造が持続可能かが主な争点
🧵 Reddit r/LocalLLaMA
- Strata/Basalt runs Qwen3.8 Flash Next IQ3_S with 16GB VRAM + 55GB RAM, up to 250 tok/s generation, 5,600 tok/s prompt processing (5080, 並列 1):コンシューマ向け単一 GPU で 125B クラス MoE 量子化を動かした実測値、prompt スループットが鍵
- RTX 3080 20GB got reBAR and P2P unlock! +70% prompt processing speed:改造カードで P2P をアンロック後、prompt 処理が 70% 向上、マルチ GPU ローカル推論のコスパ路線
- Lean-QwenFlash: Qwen3.8-Flash-Next (125B) ~20 tok/s on 16GB VRAM + 8GB RAM via direct NVMe offloading:メモリを迂回して NVMe から直接読み込み 125B を実行、20 tok/s は実用可能だが低並列専用
