Qwen 125Bを消費者GPUで動かすほか3件

朝版ai

目次

1. Qwen 125Bを消費者GPUで動かすStrata

  • Strata は Qwen3.8-Flash-Next(125B パラメータ)を消費者向け GPU(NVIDIA RTX 20〜50 シリーズ、AMD RX 7900 XT など 12GB 以上 VRAM)で動かす無料のオープンソースツールです。Windows / Linux 対応で、チャット・コード生成・画像理解をローカルで完結します。
  • RTX 5070(12GB、Ryzen 5 7600、64GB RAM)の実測では、Q2_0 が回答生成 94 トークン/s、32K プロンプト読み込み 2,650 トークン/s です。IQ2_XS は 79/2,090、IQ3_XXS は 62/1,750、IQ3_S は 53/1,620、Coder は 55/2,180 です。
  • AMD RX 9070 XT(16GB、Ryzen 9 3900X、47GB RAM)では Q2_0 が 60/1,160、IQ2_XS が 52/1,110、Coder が 44/1,420 です。RTX 3090(24GB)では回答生成 100〜140 トークン/s の推定値が示されています。
  • 測定条件は Q2_0 がエンジン 0.1.36、他が 0.1.26(回答 4K、プロンプト 32K)です。データは PC 外に出ず、API コストを気にせず 125B モデルを個人開発に組み込めます。

原典 Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s

2. macOSで写真・動画を自然言語検索するSCM

  • SCM(Screen Memories)は macOS 上の任意フォルダ内の写真・動画の全フレームを、ローカル AI(CLIP + Whisper + Tesseract)で自然言語検索するツールです。クラウド送信なしで完全オフライン動作し、データはマシン外に出ません。
  • 動画はシーン単位でセグメント化・埋め込みされ、時間コードまで特定できます。OCR(Tesseract、英語+35言語切替)と音声認識(Whisper)も独立モードとして統合されており、ファイル・シーン・OCR・対話・LLM(オプトイン)の5つの検索方法を提供します。
  • デフォルトの CLIP モデルは初回ダウンロードで約 435MB、その後は完全オフラインです。macOS 12+ の Apple Silicon では Homebrew(brew tap allenv0/scm、brew trust …)でインストールできます。
  • 監視フォルダの自動インポート、コンテンツハッシュによる重複排除、モデル切替時のバックグラウンド再埋め込みなど、ライブラリの自己維持機能を備えます。検索クエリはタブとして保存でき、スクリーンショットとメールタブも切替可能です。

原典 Show HN: AI search for every photo and every frame of video on macOS

3. Claude Code v2.1.289のバグ修正と認証修正

  • 管理マシンでユーザーインストールした mod の承認が、複合シェルコマンドのネストされた deny/ask ルールに引き継がれないバグを修正しました。
  • 短いコードブロック内の未閉じ <script> タグや深くネストされた ${ 置換による端末フリーズを修正しました。
  • シンボリックリンク経由で IDE から @-mentioned、変更、選択されたファイルに Read deny ルールが適用されない問題を修正しました。
  • VSCode の claude auth status で 2.1.288 の変更をリバートし、サインアウトが頻発する可能性を減らしました。
  • プラグインコードペインで大きなファイルを開く際のハイライト表示レイアウトを一度に行うことで、表示速度を改善しました。

原典 v2.1.289

4. macOS 27のApple Intelligence削除

  • RemoveMacAI は macOS 27 の Apple Intelligence を完全に無効化し、ダウンロード済みモデルを削除する OSS ツールです。macOS 27 は Apple Intelligence の一括スイッチを廃止しており、機能をオフにしてもモデルはディスクに残り続けます。
  • インストールは curl -fsSL https://raw.githubusercontent.com/omlahore/RemoveMacAI/main/install.sh | bash の一行、または brew install omlahore/tap/removemacai で可能です。すべてのリリースは GitHub Actions でタグからビルドされ、ビルド証明(attestation)を持ちます。
  • removemacai は現在の状態を表示して確認を求めた後、System Settings の構成プロファイルを開いて Apple Intelligence をオフにし、モデルを削除します。removemacai revert で全変更を元に戻せ、--dry-run で変更内容を事前確認できます。
  • 無効化される機能には Siri(“Hey Siri” とメニューバーアイコン含む)、Writing Tools、Genmoji、Image Playground、ChatGPT 拡張、Mail / Messages / Safari / Notes / 通知の要約、Mail のスマート返信、インラインテキスト予測、Spatial Photos、Photos Clean Up などが含まれます。
  • removemacai status は各機能とディスク上のモデルサイズを表示し、removemacai off --keep <features> で特定機能を残したまま無効化できます。gh attestation verify removemacai-darwin-arm64.tar.gz -R omlahore/RemoveMacAI でダウンロードの検証も可能です。

原典 Turn off Apple Intelligence on macOS 27 and get its disk space back

原典

  1. Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s
  2. Show HN: AI search for every photo and every frame of video on macOS
  3. v2.1.289
  4. Turn off Apple Intelligence on macOS 27 and get its disk space back