Scraps 最終更新 2026/11/16 13:40

#機械学習

@某関西人|生成AI研究所 /

AIの回答を信じすぎると危ない。生成AIを使う前に知っておきたい5つの落とし穴

  • 生成AIの回答は正しいとは限らず、5つの落とし穴がある
  • ハルシネーション、最新情報の確認、存在しない情報の生成、質問の条件の明確さ、最終判断の自らの責任
  • AIの回答を判断材料として使うこと、重要情報は公式情報で確認すること

@コロッバーKAWAI /

平安時代にAIがあったら、人々は何に使ったのか。ChatGPTとGeminiに予測させてみた

  • 平安時代にAIがあったら、暮らしの相談や文章の作成に使われたと予測されている
  • 農作業や病気の相談、和歌の代作、返歌の添削、手紙の相談が挙げられている
  • AIを使う社会の側が変わることで、LLMの言葉処理能力が大きな武器になる可能性がある

@kyamaz /

『Lean で証明できた』は何を保証するのか? 〜 Lean の無矛盾性と信頼の根拠 〜

  • Leanで証明が通ったとしても、その信頼性は論理体系・実装・記述の3つのレイヤーで保証される
  • 論理体系はZFC+到達不能基数に相対的に無矛盾、実装はカーネルのバグや外部ライブラリに影響される、記述は公理の監査と主張のレビューが必要
  • 依存公理を#prin axiomsで監査し、AI生成証明はサンドボックスで再検証する運用が求められる

@Julie Bort /

Y CombinatorのGarry Tan、米国オープンウェイトAIラボがフロントエッジモデルを蒸留すべきと主張

  • 米国のオープンウェイトAIラボがフロントエッジモデルを蒸留するべきだとY CombinatorのGarry Tanが主張
  • 蒸留技術はモデルから知識を抽出する手法で、米国ラボが中国ラボと同様のトレーニング技術を使うべきと提案
  • 米国ラボがフロントエッジモデルを蒸留する際には、許可を得た方法で行うべきで、政府が規制を緩和する必要がある

@nishina /

文字数・バイト数からのトークン数推定は実際どれくらいズレるのか

  • LLMのトークン数推定は文字数・バイト数・tiktoken・llm-jp-3で実測値を下回る
  • 日本語では文字数ベースが平均-122トークン、llm-jp-3はtiktokenより3倍近く外れる、CountTokensは全カテゴリで+16トークン
  • 事前バリデーションで文字数・バイト数ベースやtiktokenは過小評価のリスクがあるため避けるべき、CountTokensは安全マージンを考慮して使うのが現実的

@Yasuhito Morimoto /

国内AIエージェント動向(2026/9/11号)

  • 国内企業がAIエージェントを導入し、人財データや設計支援、業務アプリ開発を連携させた
  • 三菱電機の人財情報基盤、HOIPOIのTALON AI Developer、日立の設計ナレッジシステム
  • 導入時の権限管理や人の承認工程、オンプレミス型の運用コストを考慮する必要がある

@abe /

初学者が検索システム開発チームに挑むにあたり、参考にした書籍・動画まとめ

  • 検索システム開発の初学者向けに、動画と書籍を紹介している
  • Neural Network Consoleの動画と「検索システム(実務者のための開発改善ガイドブック)」の書籍が挙げられている
  • 動画で全体像を把握し、書籍で検索の視点を学ぶことで、技術的な土台を築く方法が示されている

@Jagmeet Singh /

インドのポケットFM、AIで収益を2倍にし93%のコンテンツを生成

  • インドのポケットFMがAIを活用して収益を2倍にし、93%のコンテンツをAIで生成
  • AIは99%の新規コンテンツを生成し、クリエイティブプロセスに統合されており、人間のクリエイターがアイデアを担当
  • AIによるコンテンツ制作は生産コストを80倍安くし、100時間のコンテンツを1日に制作可能になった

@Russell Brandom /

AIエージェントが公共サービスに大量の申請をもたらす

  • AIエージェントが公共サービスへの申請を急増させている
  • ChatGPTやClaudeなどのAIツールが申請プロセスを簡素化し、英国や米国の公的機関で申請数が倍増した。行政負担の軽減と新たなサービス設計の機会が生じている
  • 申請数の急増は行政の対応力に課題をもたらし、AIに適応した新しいサービス設計が求められている