Lance formatとは?Apache Icebergの課題から考えるAIワークロード向けのデータフォーマット
- Lance formatはAIワークロード向けに設計されたオープンなデータフォーマットで、Apache Icebergの課題を解決する
- 行グループを持たない列指向のファイルフォーマット、列ごとのデータファイルの追加、固定長リスト型のベクトル列、blob列による大きなバイナリの扱い
- Lance formatのファイルはバージョンに依存するため、対応するライブラリを使用する必要がある
Lance formatとは?Apache Icebergの課題から考えるAIワークロード向けのデータフォーマット - Qiita


