2 posts with the tag BERT
BERTについて勉強したことまとめ (2)モデル構造について
June 12, 2020
posted by miyamonz
前回は特徴と予備知識を確認しました。今回はBERTの構造についてです。 BERTのモデルの構造 BERTのモデル構造の主な部分は、TransformerのEncoderを複数重ねただけです。それに合わせて、その上下にどの ...
BERTについて勉強したことまとめ (1) BERTとは? その特徴と解決しようとした問題、及び予備知識
May 22, 2020
posted by miyamonz
現在、社内の機械学習を用いたプロジェクトに関わっていて、その過程で学んだBERTについて今まで勉強したことをまとめてみようと思います。 自然言語処理(以下NLP)、とくにBERT周辺の理解したことを以下何回かに分けて書い ...