ポリマスについて
Polymathは、機械学習を活用して、あらゆる音楽ライブラリ(ハードドライブやYouTubeなどから)を音楽制作サンプルライブラリに変換するツールです。このツールは、曲を自動的にステム(ビート、ベースなど)に分離し、同じテンポとビートグリッド(例えば120bpm)に量子化し、音楽の構造(例えばヴァース、コーラスなど)、キー(例えばC4、E3など)、その他の情報(音色、音量など)を分析し、オーディオをMIDIに変換します。
コア機能
- 音楽ソース分離:Demucsニューラルネットワークを使用して行われます。
- 音楽構造セグメンテーション/ラベリング:sf_segmenterニューラルネットワークで実現します。
- 音楽ピッチトラッキングとキー検出:Crepeニューラルネットワークによって行われます。
- 音楽からMIDIへの変換:Basic Pitchニューラルネットワークで処理されます。
- 音楽の量子化と整列:pyrubberbandを用いて実現します。
- 音楽情報の検索と処理:librosaで行われます。
基本的な使用方法
- ポリマスライブラリへの曲の追加:YouTubeビデオやオーディオファイル(wavまたはmp3)を追加できます。
- ポリマスライブラリ内の曲の量子化:特定の曲または全ての曲を指定したテンポに量子化できます。
- ポリマスライブラリ内の類似曲の検索:特定の曲に基づいて類似曲を検索し、必要に応じて量子化できます。
- オーディオからMIDIへの変換:処理されたオーディオファイルとステムをMIDIに変換できます。
このツールは、音楽プロデューサー、DJ、MLオーディオ開発者のワークフローを効率化する検索可能なサンプルライブラリを提供します。