Scraps 最終更新 2026/10/01 22:40

#機械学習

@ケン吉 / ゼロから作るAIアプリ開発 /

金融時系列の変化点検出を自己進化させるLLMエージェント「EvoTS-Agent」を解説

  • EvoTS-Agentは金融時系列の変化点検出で同じ改善を繰り返す問題を解決した
  • 改訂・代替戦略・再結合の3つの進化オペレータで停滞を検知し、複数の実験結果を統合する
  • 改善判定はLLMの主観ではなくF1スコアなどの客観的な数値計算で行う必要がある

@カンバヤシ /

【HITCON 2026 参加レポート】Day2 セッションから改めて感じた"確認"することの重要さ

  • HITCON 2026のセッションでAI時代のセキュリティ課題と確認の重要性が強調された
  • QRコードによるRCEやPACバイパス、AI生成マルウェアの攻撃手法が紹介された
  • AIの進化に伴い、セキュリティ対策として確認作業の徹底が不可欠であることが示された

@カンバヤシ /

【HITCON 2026 参加レポート】Day1 セッションから感じたAI時代のハッカーたちのリアル

  • AI時代のセキュリティ対策として、脆弱性開示の見直しとAIを活用したAppSecの実践が議論された
  • 脆弱性開示の期間や基準の見直し、AIを用いたエンドポイント監査エージェントの導入、CTI業務における人間とAIの協働モデル
  • AIによる脆弱性検出の増加に対応するため、ベンダー側の修正体制改善と研究者の精査が求められる

@某関西人|生成AI研究所 /

AIの回答を信じすぎると危ない。生成AIを使う前に知っておきたい5つの落とし穴

  • 生成AIの回答は正しいとは限らず、5つの落とし穴がある
  • ハルシネーション、最新情報の確認、存在しない情報の生成、質問の条件の明確さ、最終判断の自らの責任
  • AIの回答を判断材料として使うこと、重要情報は公式情報で確認すること

@コロッバーKAWAI /

平安時代にAIがあったら、人々は何に使ったのか。ChatGPTとGeminiに予測させてみた

  • 平安時代にAIがあったら、暮らしの相談や文章の作成に使われたと予測されている
  • 農作業や病気の相談、和歌の代作、返歌の添削、手紙の相談が挙げられている
  • AIを使う社会の側が変わることで、LLMの言葉処理能力が大きな武器になる可能性がある

@kyamaz /

『Lean で証明できた』は何を保証するのか? 〜 Lean の無矛盾性と信頼の根拠 〜

  • Leanで証明が通ったとしても、その信頼性は論理体系・実装・記述の3つのレイヤーで保証される
  • 論理体系はZFC+到達不能基数に相対的に無矛盾、実装はカーネルのバグや外部ライブラリに影響される、記述は公理の監査と主張のレビューが必要
  • 依存公理を#prin axiomsで監査し、AI生成証明はサンドボックスで再検証する運用が求められる

@Julie Bort /

Y CombinatorのGarry Tan、米国オープンウェイトAIラボがフロントエッジモデルを蒸留すべきと主張

  • 米国のオープンウェイトAIラボがフロントエッジモデルを蒸留するべきだとY CombinatorのGarry Tanが主張
  • 蒸留技術はモデルから知識を抽出する手法で、米国ラボが中国ラボと同様のトレーニング技術を使うべきと提案
  • 米国ラボがフロントエッジモデルを蒸留する際には、許可を得た方法で行うべきで、政府が規制を緩和する必要がある

@nishina /

文字数・バイト数からのトークン数推定は実際どれくらいズレるのか

  • LLMのトークン数推定は文字数・バイト数・tiktoken・llm-jp-3で実測値を下回る
  • 日本語では文字数ベースが平均-122トークン、llm-jp-3はtiktokenより3倍近く外れる、CountTokensは全カテゴリで+16トークン
  • 事前バリデーションで文字数・バイト数ベースやtiktokenは過小評価のリスクがあるため避けるべき、CountTokensは安全マージンを考慮して使うのが現実的