KIYOSHI'S NOTES

機械学習

2021-10-06

パラメータの初期値を指定してOptunaで最適化してみる

OptunaはPFN社が公開しているオープンソースのハイパーパラメータ自動最適化フレームワークです。最適化したいパラメータの事前分布と目的関数を定義すれば、あとはベイズ最適化を用いて自動的にパラメータを探索してくれます。(Optunaの一般…

2021-09-22

Mediumのこちらの記事で、Py-Featというお手軽に表情表現(Facial Expression: FEX)を解析できるツールキットの存在を知ったのでさっそく試してみました。今回は公式チュートリアルのうちの、画像からの表情認識をやって…

2021-02-13

前回に引き続き決定木系のお話になりますが、今回は近接グラフ(proximity plot)を可視化する方法を紹介します。近接グラフはランダムフォレスト(RandomForest)を構成する各決定木の終端ノードに属するデータに着目した、デー…

2021-02-12

以前、決定木アルゴリズムの特徴量重要度(feature_importance)に関する記事を書きましたが、依然としてターゲット変数に寄与する特徴量を重要度だけで解釈するケースを良く見かけます。また、「その変数の重要度が大きいのは分かったが…

2020-11-27

前回に引き続きSDVライブラリを扱います。※前回の記事ではSDVライブラリで時系列データをモデリングし、合成データを作ってみました。今回はSDVライブラリを使って複数のリレーショナルなテーブルをモデリングし、テーブル自体を生成してみます。…

2020-11-19

Mediumの新着記事を眺めていたら気になるタイトルがありました。ということで、今回はこのSDVライブラリを試してみます。公式のチュートリアルを参考に時系列データセットでモデリングし、合成データを生成します。なお、実装したコードはGitH…

2020-10-22

Google社が開発した自然言語処理モデルBERTですが、使い方次第では様々なタスクで高い精度を得られるものの、そのパラメータの多さゆえに推論にかなり時間がかかります。そのためBERTを実運用しようとすると、処理時間がボトルネックになって頓…

2020-10-19

最近案件でBERTを使う機会がありました。 Hugging Face社が公開している英語版のBERTや東北大の乾・鈴木研究室が公開している日本語版BERTであれば自前のtokenizerで学習あるいは推論対象のテキストを単語分割しても問題あ…

2020-08-15

最近、自然言語処理関連の仕事でBERTを使うことになり、まずはお手軽に試せるライブラリはないかと探していたところ、ktrainというライブラリがあることを知りました。「ktrain: A Low-Code Library for Augme…

2020-06-19

spaCyという自然言語処理のためのライブラリがバージョン2.3にアップデートされ、日本語に対応しました。公式ドキュメントを見ると、単語のセグメンテーションと品詞タグ付けにはSudachiPyを利用しているようです。今回は早速、spaCy…