gensim を使ってみる

前準備

Python のインストール（Windows 上）

【サイト内の関連ページ】

• Windows での Python 3.10，関連パッケージ，Python 開発環境のインストール: 別ページ »で説明している．
• Windows での Anaconda3 のインストール: 別ページ »で説明している．
• Python のまとめ: 別ページ »にまとめている．

【関連する外部ページ】

Python の公式ページ: https://www.python.org/

gensim パッケージのインストール

1. Windows で，コマンドプロンプトを管理者として実行

   コマンドプロンプトを管理者として実行: 別ページ »で説明

2. gensim をインストール

   python -m pip install -U gensim
   

   
3. インストール終了の確認
   

Word2Vec に関するサンプルプログラムを動かしてみる

次のページで公開されているプログラムを使用する．

https://radimrehurek.com/gensim/auto_examples/tutorials/run_word2vec.html#sphx-glr-auto-examples-tutorials-run-word2vec-py

上のページの注意書きにもある通り，2G バイトのファイルがダウンロードされます．

1. データのダウンロードと語彙の確認

   import gensim.downloader as api
   wv = api.load('word2vec-google-news-300')
   
   for i, word in enumerate(wv.vocab):
       if i == 10:
           break
       print(word)
   

   
2. 単語ベクトルの表示

   words = ['car', 'minivan', 'bicycle', 'airplane', 'cereal', 'communism']
   for w in words:
       print(wv[w])
   

   
3. 2単語間の類似度

   pairs = [
       ('car', 'minivan'),   # a minivan is a kind of car
       ('car', 'bicycle'),   # still a wheeled vehicle
       ('car', 'airplane'),  # ok, no wheels, but still a vehicle
       ('car', 'cereal'),    # ... and so on
       ('car', 'communism'),
   ]
   for w1, w2 in pairs:
       print('%r\t%r\t%.2f' % (w1, w2, wv.similarity(w1, w2)))
   

   
4. 単語の類似検索

   print(wv.most_similar(positive=['car', 'minivan'], topn=5))