自然言語処理

python

gensim.models.word2vecメソッドの使い方

word2vecとは?Word2Vecとは、単語をベクトルで表現する手法です。Mikolov らが 2013 年の論文 (Efficient Estimation of Word Representations in Vector Spac...
python

gensim.utilsモジュールのsimple_preprocessメソッドの使い方

gensimとは?テキストデータの前処理を効率的に行うことができるオープンソースライブラリです。使用シーンWord2Vecの前処理simple_preprocessメソッドでできることテキストに対して、以下の前処理を行います。短い・長い単語...
list

pythonでlistを拡張する方法

自然言語処理でリストを拡張する処理が使われていました。そこで、どのような使い方をするのか調べてみました。サンプルコード1:リストにリストを追加# 例1: 単純なリストの拡張list1 = [1, 2, 3]list2 = [4, 5, 6]...
pip

microsoftのdeberta-v3-baseを使い方メモ

kaggleのコンペに参加した時に自然言語処理の扱い方について全く分からなかったため、最初に確認したことについてまとめました。1. ライブラリのインストールpip install transformers torch sentencepie...