タグ: 学習
YouDuck で「学習」 タグの付いたガイド・ノート・ポリシー一覧。
- バックラッシュと、エンコーダがどちら側にあるか
歯車の遊び。Microduck はサーボごとに ±1° をモデル化しており、要点はエンコーダがそれを通して読むことです。
- BAM アクチュエータモデル
Rhoban のサーボ物理モデル。サーボを理想トルク源として扱うことが、sim2real 失敗の最も一般的な原因です。
- ドメインランダム化
学習時に物理パラメータをランダム化し、現実の分布に対して頑健にする手法。観測ノイズを足すのとは別物です。
- 61 次元の観測契約
すべてのポリシーが同一の観測形式を共有し、それが歩行・復帰・技のホットスワップを可能にしています。
- ポリシーのホットスワップ
歩行・復帰・技のポリシーを実行中に切り替える。再起動も停止も不要です。
- 投影重力 — ロボットはどうやって転んだと知るか
状態ストリーム上で唯一の IMU 量。直立時はおよそ [0, 0, -1] で、転倒判定はここから導かれます。
- sim2real とは、そしてなぜ最も難しいのか
シミュレーションで学習したポリシーを実機へ移すこと。シミュレーションでうまく歩き実機で転ぶのは、通常の結果です。
- 学習とデプロイ
MuJoCo での学習から実機で動くポリシーまで。そして移行の成否を決める 4 つのこと。
- 学習環境を整えて、最初のポリシーを訓練する
microduck_rl の動作要件、中心となる 4 つのコマンド、そして GPU が無い場合の代替手段。
- sim2real のレシピ
Microduck がシミュレーションから実機へ移るために依存している 4 つのこと。BAM アクチュエータ物理、ドメインランダム化、バックラッシュのモデリング、共有された観測契約。
- 学習タスク一覧
microduck_rl で学習できる全タスクの id・地形・用途。roller シリーズと Backlash 版を含みます。
- BallKick — ボールを蹴る
70 mm・15 g のボールを前に蹴る。ポリシーはボールを見ていない。
- GroundPick — 物を拾う
しゃがんで嘴の先で地面に触れ、立位に戻る。パッドの A が起動する動作。
- RollerCrouch — 滑走中のしゃがみ
車輪の上で滑走を保ったまま重心を下げる。
- RollerSlope — 斜面の滑降
車輪で斜面を降りながら制御を保つ。
- RollerStandUp — 地面から車輪の上へ
転倒後、地面から車輪の上へ立ち上がる。
- Rollers — 速度指令でのローラー滑走
受動輪を履いた状態の基本ポリシー。roller モードにおける主タスク。
- Roulade — 前転
頭を越えて前方に一回転し、足で着地する。X / □、長押しで連続。
- SitStand — 座ると立つ
指令による座位 ↔ 立位の切り替えを 1 つのポリシーで。動作は穏やかで、頭部は操作可能なまま。
- Spin — その場回転
車輪の上でその場で高速に回転する。
- StandUp — 地面から立ち上がる
うつ伏せ・仰向け・座位から立ち上がり、その後は立位を保ちつつ姿勢指令を受ける。
- Swizzle — 対称のスイズル
両足を同時に外へ開き内へ戻す、古典的な滑走動作。
- Velocity — 速度指令での歩行
主タスク。速度指令に従って歩きつつ頭部姿勢指令も受ける。最初に学習させるのはこれ。
- VelStand — 歩行と転倒復帰をまとめて
歩行と転倒復帰を 1 つのポリシーに学習させ、実行時の引き継ぎを無くす。
- 背景 — Hugging Face による Pollen Robotics 買収が意味するもの
Microduck は Hugging Face 傘下の企業の製品。この関係が、挙動が共有可能な ONNX ファイルとして出荷される理由を説明する。
- BAM — サーボのアクチュエータモデル
Rhoban のアクチュエータ同定フレームワーク。Microduck は Dynamixel XL330 に対してその M6 モデルを使う。
- microduck_rl — 学習環境
Microduck のポリシーがすべて学習される場所。MuJoCo Warp と PPO、ドメインランダム化、BAM アクチュエータモデル、バックラッシュ模擬。
- Microduck Simulator — ブラウザ上のシミュレータ
Hugging Face Spaces 上の Microduck Sandbox。ハードウェア不要。
- mjlab — microduck_rl の土台となるフレームワーク
MuJoCo Warp 上に構築された GPU 並列の強化学習フレームワーク。Microduck の学習はこの上に乗っている。