Scraps 最終更新 2026/11/16 11:31

AI関連ブログ記事まとめ

@songchong /

⚪︎⚪︎はしないで!AI エージェントの行動を制限する 5 つの方法を、守られる強さで比べた

  • AIエージェントに「しないで」と頼んでも守られないことがあり、代わりにコマンドを書くのが効果的
  • 禁止だけの指示は強度1・2で51回中1回問題が発生、代わりのコマンドまで書くと強度2で問題なし
  • 強度3以上の設定や許可リストで制限する方法を重ねる必要がある

@masanork /

Radeon VIIとUbuntu 26.04でROCmを動かし、Flash-NextをOpenCodeにつないだ

  • Radeon VIIでROCmを動かし、Qwen3.8-Flash-NextをOpenCodeにつなぐ環境を構築した
  • ROCmのnightly版とStrataのソースビルドで gfx906向けに構成、Q2_0量子化モデルをローカルAPIで動作
  • ROCmのnightly版はAMDの通常保証対象外で、環境依存の設定が必要なため、アップデート後の動作保証はない

@shalXXXX /

防御側の LLM 活用:ログ分析・アラート一次対応・脅威インテリジェンスで「ログを入力として疑う」設計

  • 防御側のLLMでログ分析やアラート対応を行う際、ログに仕込まれた指示文がモデル出力を歪める
  • ログの要約でIPやユーザー名が元データと異なる、アラートの無害判断で誤検出、IoC抽出で原文にない値を生成
  • モデル出力と元ログを突き合わせて不一致を検出、自動判断は優先度上げる方向に限定する

@ssfujita /

ナレッジグラフを自動生成!?Oracle AI Database 26aiの23.26.4で追加されたGraphRAG機能を試してみた

  • Oracle AI Database 26aiのDB RU 23.26.4でGraphRAG機能が利用可能になり、PDFからナレッジグラフを自動生成できるようになった
  • DBMS_AI_GRAPHRAGパッケージでエンティティと関係性を抽出し、ベクトル検索とグラフ検索を組み合わせた検索が可能、Graph Studioで可視化も可能
  • GraphRAGはエンティティ間の関係性を検索に活用できるが、検索結果はドキュメントの内容や構造に大きく影響するため、ユースケースに応じた検索方式の選択が重要

@jksoft /

AI から答えを取り上げた上長が、今度は評価から「コード」を取り上げることにした

  • AI時代のエンジニア評価でコードの量やPR数をやめ、3つの力を見ることにした
  • 変化に対応する力、良いことを広める力、仕組みを作る力、AIの出力に名前を書ける範囲
  • 評価軸を「コード量」から「AIの出力に責任を持てる範囲」に変えることで、チーム全体の生産性向上を狙う

@Tom /

DeepSeek が描く AI エージェントの未来像

  • DeepSeek は Super-agent という AI エージェントの構想を公開し、会話と作業の振り分けを Router と Worker で分担する設計を提案した
  • Router は会話と仕事の振り分けを担当し、Worker は個々の作業を実行し、GitHub やチャットの通知を処理する
  • Worker をクラウド側に置くことで自宅PCとの接続やGUI・ブラウザ操作の安定性が課題となる

@u-hyszk /

【LLMOps】FDEの開発を支えるトレーシング基盤の開発

  • LLM GatewayとSDKによるトレーシング基盤を構築し、実行履歴を自動収集する仕組みを整えた
  • LLM Gatewayでインフラレベルのテレメトリーを自動送出、SDKとSkillで業務上の意味付けデータを手動計装
  • FDEの開発負荷を軽減し、評価に必要な実行履歴を確実に収集できるようになった

@Takashi_Masumori /

生成 AI が進化する今こそ、「人材育成」が経営の重要課題ではないか

  • 生成AIの活用が進む中で、人材育成が経営の重要課題になる
  • AIを活用するためのマネジメント能力と、成果を評価する専門性が重要、新人の経験を積む機会が減る
  • AIに任せた成果を評価し改善できる人材を育てることが、組織の持続可能性に直結する

@songchong /

compact の使い方、間違えるとトークン代 2.75 倍? Claude Code で測ってわかった 5 つの結論【2026年版】

  • Claude Codeでcompactを使うと、トークン代が57%減るが、使いすぎると2.75倍になる
  • 作業が一段落して1時間以上あける前にcompactする、Contextのusedが75%以上でcompactする
  • compactの使いすぎは費用が増えるため、作業の区切りで1回だけ使うのが効果的

@Sicut_study /

【未来を解説】AIでエンジニア格差を生み出す質とスピードの考え方

  • AI時代にエンジニアの質とスピードのトレードオフが顕在化している
  • 品質を犠牲にしたスピードは短期的で、保守性の低下が長期的な遅延を招く。設計に向き合う時間の削減が教育の欠如を生む
  • AIを使う前に設計を自分で考える習慣をつけることで、スキルの成長と質の維持が可能になる

@OH-GY /

RAGが一度も効いていなかった話

  • RAGは資料検索を一切行わず、作り話の返答をしていた
  • 埋め込みモデルが文類似度用で検索用ではなかった、資料の主語が不明で取り違えが起きた
  • 資料に主語を明記し、1位と2位の距離の比でしきい値を判断する必要がある

@PharaohKJ /

KomeKaigi『さくらのAI Engineで学ぶプロンプトインジェクション実践』に参加してガードレールを学んだ

  • プロンプトインジェクションの実践を通じてガードレールの仕組みを学んだ
  • LLMのAPIをcurlで叩く演習と、ガードレールの実装例を確認した
  • ガードレールはプロンプトだけでなく結果の加工・操作を拒否する実装も含むことがわかった

@taka_yayoi /

Databricks発のOSS Omnigentの解説書『Omnigentによるメタハーネス入門』が全3巻そろいました — エンタープライズ編の中身と、どの巻から読むか

  • Omnigentによるメタハーネス入門の全3巻が刊行され、組織での統治を扱うエンタープライズ編が追加された
  • 個人・チーム・組織の3段階でAIエージェントの利用を管理するポリシー設計、コスト可視化、サンドボックス運用、認証と監査が中心
  • 組織での導入を検討する担当者は3巻から読み始められ、用語は序章で整理されている

@satouyoshiaki /

AIアシスタントに5日で9.5億トークン使っていた話 ― 無料枠100%から始めたトークン棚卸しとメモリ圧縮

  • AIアシスタントの利用で9.5億トークンを消費したケースを棚卸しした
  • 入力トークンが99.5%を占め、メモリ圧縮で1ターンあたり1,131トークン削減
  • 毎ターンの読み込みコストはメモリと要約に依存し、プロジェクト一覧の削減が効果的