ログインしてさらにmixiを楽しもう

コメントを投稿して情報交換!
更新通知を受け取って、最新情報をゲット!

コーパス corpus linguisticsコミュのついに出ましたGoogle 5-grams

  • mixiチェック
  • このエントリーをはてなブックマークに追加
ついにGoogleの5-gramコーパスがLCDからでました。そのテキストの多さはおそろしく大きく(6枚のDVDに24Gの圧縮されたテキストが入っているそうです)。Token数は1兆語、5-gramでも1億語あるそうです(以下に語彙数をリストアップしています)。
詳しくは、LCDのカタログ
http://www.ldc.upenn.edu/Catalog/CatalogEntry.jsp?catalogId=LDC2006T13
を。

Number of tokens: 1,024,908,267,229
Number of sentences: 95,119,665,584
Number of unigrams: 13,588,391
Number of bigrams: 314,843,401
Number of trigrams: 977,069,902
Number of fourgrams: 1,313,818,354
Number of fivegrams: 1,176,470,663

コメント(0)

mixiユーザー
ログインしてコメントしよう!

コーパス corpus linguistics 更新情報

コーパス corpus linguisticsのメンバーはこんなコミュニティにも参加しています

星印の数は、共通して参加しているメンバーが多いほど増えます。