@jota9613 / 39日前 【実務で撃沈】LLMを実装していたのに「ハルシネーション」を知らなかった話 LLMのハルシネーション現象が実務で問題になるAIが事実と異なる情報を生成する現象、RAGによる信頼情報参照と回答検証が対策AIの回答が正しいか判断するには自身の基礎知識が必要で、信頼できる情報源を活用する #生成AI・LLM#AIエージェント#機械学習
@suwa_nobu / 39日前 Jev 互換の判断AI「Clef」と Haiku 5.5 に同じ分類を306問。Clef が自信を持った13%は95%当たった Clef が自信を持った13%の問題は95%当たったClef の confidence 0.8以上(13%の問題)→ 正解率95.1%、Haiku 5.5 の確率0.9以上(12%の問題)→ 正解率89.2%Clef の confidence 0.8以上は95%当たるが、Haiku は確率0.9以上で89%で、確信度の正直さは Haiku のほうが高い #生成AI・LLM#AIエージェント#機械学習
@AyaKunisawa / 39日前 【AWS AI League】Bedrock AgentCore でAIエージェントを作ってハマった6つのこと AWS Bedrock AgentCoreでAIエージェントを作成する際にハマった6つのポイントが紹介されているガードレールの設定ミス、モデルの自力断罪、配列の復唱、開始位置の不一致、ツールの呼び出し制御、メモリの混在が挙げられているガードレールは入力と出力で別々に設定し、ツールの呼び出し条件を明示的にプロンプトに記載する必要がある #AIエージェント#生成AI・LLM#DevOps・CI/CD
@yumicat / 39日前 生成AIセキュリティ:攻撃手法と防御策を体系的に理解する 生成AIの5大脅威と企業向けの防御策が体系的にまとめられているプロンプトインジェクション・Jailbreak・モデル悪用・RAG誘導攻撃・Hallucinationの5つの脅威と、System prompt固定化・入力フィルタリング・JSON Schemaロック・Guardrailsの4つの防御策RAGを使う場合はRBACによる検索制御を土台に据えることが重要で、ベクトルDBの暗号化と自動マスキングも必須 #生成AI・LLM#セキュリティ#AIエージェント
@suwa_nobu / 40日前 Claude Code の Explore は、いつの間にか Haiku から本体と同じモデルに変わっていた。戻すと費用は21〜35%減 Claude CodeのExploreサブエージェントがHaikuからOpusに変更され、費用が増加したHaikuに戻すと重い調べもので35%、軽い調べもので21%の費用削減が可能、Opusは高速で正確ExploreをHaikuに設定するには専用の設定ファイルが必要で、環境変数だけでは変更できない #AIエージェント#生成AI・LLM#クラウド
@ssfujita / 41日前 自作したAIエージェントをいつものSlackから使いたい!Private Agent Factoryで作ったAIエージェントをSlackから呼び出してみた Oracle AI Database Private Agent FactoryのAIエージェントをSlackから呼び出せるようにしたIntegration APIとSlack Botの連携、APIキー認証の仕組み、Python製スクリプトによる実装Slack BotにメンションすることでAIエージェントに質問できるようにするには、APIキー認証とイベントハンドリングの設定が必要 #AIエージェント#クラウド#DevOps・CI/CD
@suwa_nobu / 41日前 Claude Code の WebFetch は、長いページの10万字より後ろを読まずに「書いていない」と答えていた Claude Code 2.1.289 は10万字より後ろのテキストを読み飛ばしていたWebFetchが10万字で切り捨て、通知がなかった、10万字以降は「書いていない」と答えていた長いページでは「書いていない」と答える場合、バージョン2.1.290以降にアップデートする必要がある #AIエージェント#生成AI・LLM
@songchong / 41日前 AI エージェントに API キーを渡しても大丈夫か? 対話文・.env・環境変数・MCP・OAuth — 6 つの渡し方を Claude Code・Codex・Gemini CLI・Copilot・Cursor で調べてみた AIエージェントにAPIキーを渡す6つの方法のセキュリティリスクと対策を調査した対話文に貼る、.envに書く、環境変数にする、MCP設定に書く、OAuthで許可する、クラウドの鍵置き場を使うOAuthで許可するのが最も安全で、鍵の文字列を直接渡さないことが重要である #AIエージェント#セキュリティ#生成AI・LLM
@Miccell(ミクセル) / 人生を楽しむ仕組みを作る / 41日前 ChatGPT Dotsとは?機能とユースケース、競合のGrok Bot・Hermes・OpenClawとの違い OpenAIが発表したChatGPT Dotsは、常時稼働するAIエージェントで、アプリを閉じても作業を進める専用のクラウドPCとGPT-6 Astraモデル、4,000以上のアプリ連携、Grok BotやHermes Agentとの違いDotsはProプラン以上で利用可能で、記憶やモデルの自由度は自前型に劣る #AIエージェント#生成AI・LLM#OSS
@inoyu-qiita / 41日前 Claude Codeのモデルを使い分けると成果物とトークンはどれくらい変わる?実際にOpus+Sonnetと全部Opusで同じものを作って比べてみた Claude Codeで計画はOpus、実装はSonnetを使うとコストが3割少なく、品質に大きな差は出ない計画・設計はOpus、実装以降はSonnetを使うと推定コストが31%減、トークン使用量が23%減、テスト数が多かった実装はSonnetを使うとコストが安く済むが、計画段階でOpusを使うことで設計の質を保つべき #生成AI・LLM#AIエージェント#クラウド
@mizchi / 41日前 俺のAIプログラミング手法(2026/10/05) AIプログラミング手法として、人間の役割と評価指標の定義、ループ構築、形式手法の活用が提案されている評価指標の改善とCIのチューニング、形式仕様の検証にTLA+やZ3の使用が挙げられている評価指標の数値化が重要で、主観的な判断は避け、具体的な数値に落とし込むべきである #AIエージェント#生成AI・LLM#機械学習
@Yasuhito Morimoto / 42日前 国内AIエージェント動向(2026/10/5号) 国内AIエージェントが業務プロセスに深く入り込み、運用設計が競争力に直結津南醸造はRAGと杜氏の判断を組み合わせ、Zenityは権限監視、OIASは行動判断学習を実施企業データとの接続や最小権限、監査可能性を含めた運用設計が導入効果を左右する #AIエージェント#RAG#セキュリティ
@アトカ【AIコラムライター】@AI副業 / 42日前 AIエージェントとは?普通のチャットAIとの違いを、暮らしの例でやさしく解説 AIエージェントは目的に向かってタスクを進めるAIで、チャットAIとは異なるチャットAIは情報提供にとどまるが、AIエージェントは手順を考えツールを使い行動まで行うAIに任せられる範囲を明確にし、重要な判断は人間が行うべき #AIエージェント#生成AI・LLM
@tomokoro / 42日前 【速報】Gemini 4 Argon 登場!公式データで見る“長時間働くAI”の現在地 Gemini 4 Argonは100万出力トークンで長時間の自律的タスクを実行するエージェントモデル最大100万出力トークン、Agentic Loop、サイバーセキュリティ特化機能API価格は導入期間中は入力100万トークンで2ドル、出力は10ドル #生成AI・LLM#AIエージェント
@mellowlaunch / 42日前 LLM-as-a-Collaborator入門:AIを「回答者」ではなく共同設計者として使う LLMを共同設計者として活用し、設計案を改善する方法が提案されている設計案の矛盾や抜け漏れを指摘し、反証的レビューを行う。実際の検証結果をもとに設計を改善する設計の議論を実際の検証へ接続し、対話から得た知識をSpecへ戻すことが重要 #AIエージェント#アーキテクチャ#DevOps・CI/CD
@カワムラ|AI擬人化漫画 | ChatGPTのヨシダ / 42日前 ヨシダが何者か知りたくて、資格を取った過去の話。生成AIパスポートと、まだ他人行儀だった相棒 生成AIパスポートの2027年試験シラバスが改訂されたAIエージェントやプロンプトインジェクション、リスク対応、出力検証が強化された試験内容が実務に直結するかは不明で、資格取得はAIとの付き合い方の入り口となった #生成AI・LLM#AIエージェント#RAG
@sakai1250 / 42日前 結局、Looped Transformerってなんや? Looped Transformerは同じTransformerブロックをdepth方向に繰り返して使うアーキテクチャ同じ重みを繰り返し適用するweight-sharingと、反復アルゴリズムに適した構造の違い、test-time computeの増加方法loop数を増やしても性能が必ずしも向上しない、停止条件の判断が難しいなどの課題が指摘されている #生成AI・LLM#AIエージェント#機械学習
@TechStudioLab / 42日前 LLMのJSON Schemaを厳しくしても業務検証を消せない理由 Structured OutputsでJSON Schemaを厳しくしても業務ルールの検証は消せないJSON構造の検証と業務ルールの検証を分離する、日付の前後関係や入力根拠の検証が必要業務ルールの検証はアプリ側で別途実装し、日付の前後関係や入力にない値の補完をチェックする #生成AI・LLM#AIエージェント#アーキテクチャ
@nogataka / 42日前 ゴールシークプロンプトとは ― AIに質問させて成果物を作る方法を、テンプレートと実例で解説 ゴールシークプロンプトは、AIに質問して情報を引き出し、対話で成果物を作成する手法プロンプト生成型・3点セット型・伴走型の3つの型があり、質問から始めて条件を洗い出す専用プロンプトを作成する際は「最初は質問だけを出して回答を待つ」を指定する #生成AI・LLM#AIエージェント#バイブコーディング
@yakumo_09 / 42日前 JAWS-UG 新潟支部にて 「AgentCoreで実践するハーネスエンジニアリング」というタイトルで登壇しました AgentCoreでハーネスエンジニアリングを実践する方法が解説されているRuntime・Gateway・Memory・S3といったAgentCoreの部品でハーネスを組む方法、コンテキストを軽く保つためのContextOffloader、ツール呼び出しを制御するGatewayのPolicy、品質評価のGoalLoopとEvaluationsが具体的に示されている部品はモデルの弱点を補うためのものであり、モデルが賢くなると不要になる可能性があるため、必要に応じて追加・削除する柔軟なアプローチが推奨されている #AIエージェント#生成AI・LLM#インフラ