Scraps 最終更新 2026/11/16 13:50

#生成AI・LLM

@yumicat /

生成AIセキュリティ:攻撃手法と防御策を体系的に理解する

  • 生成AIの5大脅威と企業向けの防御策が体系的にまとめられている
  • プロンプトインジェクション・Jailbreak・モデル悪用・RAG誘導攻撃・Hallucinationの5つの脅威と、System prompt固定化・入力フィルタリング・JSON Schemaロック・Guardrailsの4つの防御策
  • RAGを使う場合はRBACによる検索制御を土台に据えることが重要で、ベクトルDBの暗号化と自動マスキングも必須

@suwa_nobu /

Claude Code の Explore は、いつの間にか Haiku から本体と同じモデルに変わっていた。戻すと費用は21〜35%減

  • Claude CodeのExploreサブエージェントがHaikuからOpusに変更され、費用が増加した
  • Haikuに戻すと重い調べもので35%、軽い調べもので21%の費用削減が可能、Opusは高速で正確
  • ExploreをHaikuに設定するには専用の設定ファイルが必要で、環境変数だけでは変更できない

@しんや /

What's New in Sigma - 2026年10月02日のSigma Computing関連リリース情報まとめ

  • SigmaエージェントとSigma Assistantが正式提供(GA)に
  • Sigmaエージェントのワークブック内構築・スケジュール実行・MCPサーバー経由呼び出し、Sigma Assistantのチャット履歴保存・コードファーストアーキテクチャ
  • Sigmaエージェントはプレミアム機能で課金されるため、利用規模に応じたアカウントチームとの調整が必要

@Marina Temkin /

元Rampエンジニアが広告生成プラットフォームMeliusを立ち上げ、2000万ドルを調達

  • 元Rampエンジニアが広告生成プラットフォームMeliusを立ち上げ、2000万ドルを調達した
  • AIで広告キャンペーン・画像・動画を生成するプラットフォームを開発し、元の製品を廃止して新製品に切り替えた
  • 広告制作の自動化が進み、AIツールの競争が激化していることが分かる

@Julie Bort /

シリコンバレーのAI天才がUnderdogをリリース、インスティンクト/ミューズの競合で最もプライバシーを重視

  • Underdogは、プライバシーを重視したAIアシスタントとしてリリースされた
  • モデルはデバイス内に完全に実行され、Qwen3.8 27Bをベースにし、データの暗号化と支払い手数料収益モデルを採用
  • ユーザーのデータは外部に送信されず、広告やデータ収集に依存しないビジネスモデルが特徴

@Sarah Perez /

AIエージェントがウェブサイトにアクセスする際のブロック問題

  • AIエージェントがウェブサイトにアクセスする際、サイト側のブロックが問題になっている
  • ウェブサイトのアンチボット対策やCloudflareの設定変更が原因でAIエージェントがアクセスできない
  • AIエージェントを使う際は、サイトのブロック設定やパートナーシップの有無を確認する必要がある

@Lindsey Lanquist /

妊婦の超音波検査アクセス向上に向けたAI活用

  • Google研究者はAIを活用して妊婦の超音波検査アクセスを改善している
  • 医療従事者に「ブラインドスイープ」超音波検査を8時間で訓練し、機械学習モデルで結果を解釈する
  • 超音波検査の実施者が専門技術者でなくても可能になるが、AIモデルの正確性が結果に大きく影響する

@Russell Brandom /

Anthropicがスタートアップ向けに Claude Teamの1年間無料と1000ドル分のAPIクレジットを提供

  • Anthropicがスタートアップ向けに Claude Teamの1年間無料と1000ドル分のAPIクレジットを提供
  • Claude Teamの無料利用とAPIクレジット、Claude Marketplaceへのアクセス、AIチームとのオンライン相談
  • 5年以内に設立された企業または2年以内に資金調達した企業が対象で、申請が必要

@Ivan Mehta /

Vinod Khoslaは元DeepMindエンジニアのWajoがエージェント市場で信頼で勝つと予測

  • Vinod KhoslaはWajoがAIエージェント市場で信頼性で勝つと予測した
  • Wajoは信頼性と安全を最優先に設計し、仮想クレジットカードや通話時の通知機能を備える
  • 他のエージェントと比べてプライバシー保護を強調するが、Amazonの制限に合わせた設計が必要

@Anna Heim /

Mistralの新しい1Tモデルは閉鎖型とオープン型のライバルを凌駕することを目指す

  • Mistral AIが1TパラメータのマルチモーダルモデルMistral Large 4を公開した
  • 1Tパラメータでオープンウェイトモデルではないが3週間後に公開予定、NVIDIA GPU4000台で訓練
  • オープンウェイトモデルのセキュリティ対策と特定分野での競合他社モデルの性能向上が注目される

@よさ /

1年かかるはずだった分析からAIモデル改善までを、3日で実現した

  • Claude Codeを活用してA/Bテストの分析から推薦モデル改善までを3日で完了
  • ai-analystリポジトリにドメイン知識を格納し、サブエージントでSQL実行とレポート作成、Opusで報酬設計とパラメータチューニング
  • 分析と実装を分離してもレポートと指標定義を残せば改善サイクルを継続可能で、人間の役割は問いと方針設定に集中できる

@koki takeishi /

Context Ontology Acceleratorの仕組みを理解する

  • Context Ontology Acceleratorはデータの意味と関係をオントロジーで管理し、AIエージェントが質問に応じた回答を生成する
  • オントロジーでデータの概念と関係を定義、指標で計算式を登録、文書で根拠を説明、自然言語からSQLを生成する機能がある
  • オントロジーの定義が不完全だと生成されるSQLの結果が変化するため、データの意味を明確に定義する作業が重要