勉強の記録

機械学習、情報処理について勉強した事柄など

「交絡因子で調整した」とはどういうことか

重回帰分析において、交絡因子を調整するためには、モデルに交絡因子を投入すればよい、とよく言われます。 なんとなくそういうものかと思ってきましたが、その意味を少し考えてみました。今回は2つの項のみの単純化したモデルですが、より複雑なモデルについても同様の考え方ができるはずです。交絡因子と、暴露/治療と相関する部分についてはどちらの係数に寄与するのか理解していませんでしたが、乱暴な言い方をすれば重回帰モデルにおいては「アウトカムとの相関の程度に応じて割り振られる」と考えることができそうです。

例は適当に考えたので、DAGの妥当性については目をつぶってください。

スライドをそのまま貼り付けています。

f:id:tmitani-tky:20191217160339j:plain f:id:tmitani-tky:20191217160356j:plain f:id:tmitani-tky:20191217160408j:plain f:id:tmitani-tky:20191217160446j:plain f:id:tmitani-tky:20191217160459j:plain

参考: 重回帰分析をN次元空間で考える、ということについてはこのページの下半分が分かりやすかった。 www.snap-tck.com

mathtrain.jp

www.krsk-phs.com

BART: Bayesian additive regression treesによる因果推論

[1707.02641] Automated versus do-it-yourself methods for causal inference: Lessons learned from a data analysis competition

Atlantic Causal Inference Conference 2016の結果をまとめた論文.

このコンペはstrong ignorabilityを仮定したシチュエーションにおいて,線形・非線形の77種のdata generating process (DGP)を仮定し,各々のDGPについて100回ずつn=250 or 500のdatasetを生成した計7700個のデータセットで因果推論を行うコンペ.20個のデータセットが提示されて試行錯誤できるdo-it-yourselfセクションと,手法を提出して7700個のデータセット上で評価されるblack-boxセクションから構成されている.

個人因果効果を算出するモデルの中ではBARTというモデルを活用したものが一番成績がよかった模様.あまり聞いたことのない手法だったので,ざっと調べてみた.以下、年代順に重要そうな論文を3つ紹介する。

BART: BAYESIAN ADDITIVE REGRESSION TREES

[0806.3286] BART: Bayesian additive regression trees

BART自体は最新の予測モデルというわけではなく,Chipman 2007, 2010などで提案された予測モデル.具体的にはリンクの論文や,次のセクションで紹介するHill, 2010の§3.1に詳しいが,理解した範囲で概要を紹介する.

まず,m個(元論文では200個)の木による加法的予測モデル(以下1個の予測モデルを森と呼ぶ)

\begin{align}
Y = \sum_m g(x;T,M) + \epsilon\\
\epsilon \sim N(0, \rho)
\end{align}

を考え,これをベイズで求めることを考える.初期値は適当なpriorからサンプリングして森を作成したのちに,木を1個ずつMCMCで更新していく作業を繰り返していく.各更新では尤度比に応じて棄却するか更新するか決定される.これが収束したところで事後分布に応じたK個の森をサンプリングし,予測する際はK個の森を使うことで予測値の事後分布を得るというモデル.これ自体は予測モデルであり,因果推論のためのモデルというわけではない.

残差を予測するような木を加法的に用いる点はGBDTに似ているが,ひたすら足していくのではなく一定の数の木を周回して更新していくところと,過学習を防ぐ手段として正則化項を加えるのではなくpriorによって複雑さを抑制しているところが大きな違いか.

メリットとしては事後分布をを得られるということ.当然,点推定値だけではなく区間推定どころか分布で結果が得られる.事後分布が妥当な広がりを持っているかは,問題に応じた複雑さと,priorが規定する複雑さが合致するかどうかに依存すると思うのだけど,経験的にこのぐらいのpriorがよかったよというのが本文中で紹介されていて,一部のパラメータについてはデフォルトでも良いがcross-validationで決めてもよいとされている.

BARTによる因果推論

Bayesian Nonparametric Modeling for Causal Inference Jennifer L. Hill

f:id:tmitani-tky:20191113135247p:plain
Hill, 2010より引用

3.1がBARTの概論.3.2からBARTによる因果推論.基本的には因果推論として特別なことをするわけではなく,treatmentも他のcovariateと同列に扱った予測モデルを構築し,その上でtreatment Z={0,1}とした予測値の差で因果効果を推定するアプローチ.K個の森を得られているので,因果効果の事後分布に沿ったK個の推定値を得ることができいる.よって上の図のように,その95%信用区間を算出できる.

An overall benefit is the lack of “tinkering” required with BART. Researchers tend to condition on variables and use functional forms that fit their existing theory (for a discus- sion, seeLeamer 1983). Moreover, when searching for the “best” model it may be difficult not to stop as soon as the model meets prior expectations or to bypass models that do not meet prior expectations. Such model-searching strategies, while understandable, particu- larly given strong theory regarding a phenomenon, have the potential to mask important but unexpected results and bias estimates.

authorのHillは,事前の知識や因果構造についての推論などをモデル化に活用すると,予測していなかった重要な結果をマスクしてしまったり,推定にバイアスを生んでしまう,という立場を取っている.なので事前知識に応じた既知の因果構造を取り込んだpriorを設定するといった方法論の記載は論文内にない.

f:id:tmitani-tky:20191113140308p:plain
Dorie, 2017より引用
ACIC2016の結果をみると,データが与えられるdo-it-yourselfのシチュエーションでも,データをみずにautomaticにもとめたBARTをベースとしたモデルのほうが好成績ではあるが,このようなシミュレーションデータではなく外部データ・外部知識を活用できるような場合ではどちらが好ましいのかについての示唆は与えられていない.

BART on PScore

ACIC2016においてBARTが,(random forest, GBDT, neural networkなどによる)ensembleモデルに匹敵する唯一の手法だったことから,コンペ終了後にBARTをベースとしたいくつかの手法が試された.BART on PScore(typoじゃないよ)は,別で推測したpropensity scoreをcovariateとしてBARTによる予測モデルの入力に加えた手法らしい.以下の論文からinspireされた方法とのことで確かに4章がほぼほぼその説明になっている。

[1706.09523] Bayesian regression tree models for causal inference: regularization, confounding, and heterogeneous effects

この論文の前半4章までが上記のBART on PScoreの説明である。ここで問題視されているのは、vanilla BARTにおいてPrognosis→propensity scoreに単調な関係があるようなとき(これは、治療しないと重症になる人ほど治療を受けやすいということで非常によくある関係である)、priorにかなり影響されてしまうregularization-induced confoundingという性質。

nonlinear modelにおける解説は難しくてよくわからないので、単純な線形モデルで示してあった例(p10)を載せておく。

\begin{align}
E(Z|x)&=\gamma x\\
Var(Z|x)&=Var(\nu)\\
E(Y|x,Z)&=\tau Z + \beta x
\end{align}

が成立しているとき、bを任意のバイアスパラメータとして、

\begin{align}
E(Y|x,Z)&=(\tau +b)Z+(\beta-b\gamma)^t x-b(Z-\gamma^{t}x)\\
&=\hat{\tau}Z+\hat{\beta}^t x-\hat{\epsilon}
\end{align}

が常に成立する。もし \hat{\beta}=(\beta -b\gamma) \betaよりも高い事前分布が割り当てられているとき、 Var(\hat{\epsilon})=b^{2} Var(\nu)が、Yの分散 \sigma^{2}よりも十分に小さければ、 \tauの推定は、 \hat{\tau}=\tau+bに向かってバイアスが生じる。

これはZ|xの分散が小さい、つまり治療がxによってほぼほぼ決まっているような状況でZの影響とxの影響を識別できず、知りたい因果効果である \tauの事後分布がpriorの分布に依存してしまうということ。(これはcommon supportが少なくてうまくマッチングしないとか、propensity scoreが1or0に近づいてしまってIPW推定が不安定になるといった状況にも近いと思うのだけど、そこでpriorへの依存性が高まるというのがベイズらしくて面白い)。

では、このpriorへの依存をどうすればよいのかという話が4.3節にある。Yを予測するときにXとZの効果を分離したいのに、例えば極端なケースで、\mu(x)=E(Y|Z=0, X=x)=f(\pi(x))のように\mu(x)\pi(x)の関数になっている場合など、\piに伴う\muの変動をZの影響と捉えてしまうかもしれない。ここから先は実はよくある話で、その解決策は \pi(x)を共変量に加えることである。もちろん \piは推定しなければいけないのだが、これはcouterfactualもなく単にpredictionの問題なので回帰問題として解けば良い。\piで条件付けられたもとでは、xZは独立になるので、前項で挙げたような任意のバイアスパラメータで等式が成立することもなく、biasへの依存性の問題は緩和される(らしい)。

Bayesian causal forest

5節以降で、新たなモデルとしてbayesian causal forestというモデルが紹介される。strong confounding, targeted selection, and relatively weak treatment effectsがあるような状況で特に有用とのこと.

vanilla BARTやBART on PScoreでは,割付zは他の共変量と同格に共変量として予測モデルに組み込まれているのみであり,治療効果はいわば間接的にz=1を入力した時の予測値とz=0を入力した時の差として推測されていた.このようにモデル化すると、Yの分散に対して因果効果が相対的に小さい時(そしてそれは因果効果推論においてよくある状況である)、推定因果効果の分散がYの分散以上に大きくなって有意義な推論ができなくなってしまう。よって、治療効果をより直接推測するために下記の変更をおこなった(前節の考察を生かして、prognostic modelに\hat{\pi}が加えられている)。

\begin{align}
E(Y_i|x_i,Z_i=z_i)=\mu(x_i,\hat{\pi}(x_i))+\tau(x_i)zi
\end{align}

\mu, \tauとも独立したpriorからBARTのアルゴリズムよって求められる.なお,ここで \hat{\pi}(x_i)はpropensity scoreの推定値である.

\muについてはChipmanのデフォルトのパラメータと同じものを使うことをを推奨しているが、\piについてはより制限されたpriorが推奨されている。これは、treatment effect heterogeneietyのパターンが、Y|xのパターンよりも単純だと想定しているため。よって木の数はより少なく、また木の分岐も減るようなpriorの設定となっている。また、事前分布の中央値はYのSDに一致するように設定するとのこと。

このモデルをACIC 2016のdatasetに対して使用した場合の結果がTable2, 3.に掲載されている。

また、喫煙による医療支出への影響を調べた実データにも適用しており、vanilla BARTとの特性の違いが示されている。シミュレーションデータではないので真のデータは分からないのだが、年齢によるcausal effect heterogeneityをうまく捉えているように見える。

f:id:tmitani-tky:20191114012454p:plain
HAHN, 2017より引用

感想

最後のbayesian causal forestは、今までの手法の課題を解決する納得感のあるモデル。causal effect自体をモデルにするという部分はX-learnerの目的意識に近いと感じるが、ベイズの柔軟性を生かしてさらに直感的なモデリングとなっている印象。causal effectのpriorを調整することでsensitivity analysisを行うこともできそう。

Rのライブラリも公開されており、ぜひ使ってみたい。 bcf: Fit Bayesian Causal Forests in bcf: Causal Inference for a Binary Treatment and Continuous Outcome using Bayesian Causal Forests

Hernán MA, Robins JM (2020). Causal Inference: What If.のPart IIをざっくりとまとめる①

Hernan先生のCausal Inferenceを読み進めています.英語で読んでいくとなかなか全体像がつかみづらかったりするので,適宜まとめながら読んでいました.Part IIについては全体の流れは概ね理解できた気がするのでせっかくなので記事にしておきます.Oct 26の版に準拠して該当するページや章を記載していますが,今後の改訂によって多少ずれるかもしれません.

Part Iは無限のpopulationを仮定した理想的な状況での因果推論の定性的な議論です.Part IIは実問題に応用できるようどのようにモデル化して解析するかの手法が紹介されており,Part IIIは時間依存性介入や時間依存性交絡についてのSectionという3部構成になっています.

Part Iのcausal graph(DAG)やconfounding,counterfactual outcomeなどの説明は割愛します.

Notation

$A$: treatment

$L$: confounders

$Y$: outcome

$Y^{a}$: conterfactual outcome

TP: Technical Point

FP: Fine Point

この本の因果推論における前提 (Ch13.5)

  • identifiability conditions: exchangeability, positivity, consistency (Chapter 3)
  • all variables are correctly measured. (Chapter 9 measurement error)
  • all models are correctly specified (Chapter 11). model misspecification.

これらの条件を確認するのが,ingestigator's most important taskであるとのこと.この本で説明されている手法の多くは上記の条件を前提としています.

また,本文中にはrandomでないcensoringに対応する手法も記載がありますがconfoundingへの対処と本質的にあまり差がない気がするのでこの記事では省略します.

conditional exchangeabilityを仮定する推定方法

因果推論における最大の関心領域であり,この仮定を前提とした手法が多いです.これは$Y^{a} ⊥ A|L$という条件であり,$L$が一致している人々の中では実際に治療された群も治療されなかった群も潜在的なアウトカムが等しいということです.この条件のもとでは$E[Y|A,L] = E[Y^{a}|L]$が成立するので,$L$が等しい人々のなかでは単純に治療群と非治療群のアウトカムを比較すれば$association=causation$となって交絡なく治療効果を推定することができます.実際には,$E[Y|A,L] = E[Y^{a}|L]$はmean exchangeabilityと呼ばれ,独立ではなくてもこちらさえ成立していれば以下に扱うようなaverage causal effectの推論には十分なようです(Technical Point 2.1参照).

なお,Part IのCh.8あたりに詳しく説明されていますが,$A→Y$の因果効果推定に際して調整すべき交絡因子(confounding factors)は一意に定まるわけではありません.例えば,$A←L1→L2→Y$というcausal graphを考慮したとき$L={L1}$も,$L={L2}$も,$L={L1, L2}$もいずれであっても,調整することで十分に交絡に対処できます(Ch.8).

この本では事前知識などにより構築したcausal graphのもとで調整すべき$L$を検討するという立場を取っており,データからcausal graphを構築する因果探索的なアプローチはこの本のscope外です.以下に,conditional exchangeabilityを仮定する推定方法を挙げていきます.本文ではsubgroup上のATEや,ある共変量によるeffect modificationを推定する方法も登場しますが,この記事ではまずaverage causal effect (ATE)を推定する方法を取り上げます.

Nonparametric estimators of the conditional mean(Ch.11.3)

まずひとつ目はこれ.Part Iでも取り上げられました.すべての$A$と$L$が離散的で、かつサンプル数が無数にある(というやや非現実的な)とき、すべての$A, L$の組み合わせに対して十分なサンプルがあるのでその各セルに対してconditional mean: $E[Y|A, L]$を直接計算することで$E[Y^{a}|L]$が求められます.そして後で取り上げるstratification(=g-formula)の考え方を使って,全サンプルの$L=l$に対して$E[Y|A=a, L=l]$を計算して平均を取ることでaverage causal effect (ATE)を推定することができます.

モデル化の必要性

しかしA, Lに連続量を含む場合やLが高次元な場合など,$E[Y|A, L]$を$A, L$の組み合わせごとに求めていてはうまく計算できないことが多く,何らかのモデルを仮定してsmoothingする必要があります(言い換えると,Lが少し違うサンプルの情報を借りてきて,$E[Y^{a}|A,L]$を推定しなければいけない).

モデル化の方法としては,この本での主題となるg-methodsとstratification-based methodsに大きく2つに分けることができます(p95).以下,一つずつ見ていきます.

g-methods

g-methods①: IP weighting

IPWによるpseudo-population上で$E[Y|A] = \theta_0 + \theta_1A$を回帰することで,marginal structural mean model: $E[Ya] = \beta_0 + \beta_1a$を推定します.marginal structural mean modelは個々のサンプルについてのYの回帰式ではなく,Yの平均構造についての回帰式だと思います.p157に,もし知りたいパラメータが母集団全体のATEであれば,marginal strucural mean modelは共変量の項を含まないとあります.(なおmarginal structural mean modelはAが2値であればAについてはsatured modelであり,本質的にはmodelではなくsmoothingの効果はない.Aがcontinuousな場合は何らかのsmoothingがなされる).

Aについてsaturedなmodelでは関係ありませんが,Aについてもモデル化するような場合は,stabilized IP weighingと言って,$\frac{1}{\pi[a|l]}$のかわりに$\frac{f(A=a)}{\pi[a|l]}$を用いた方がvalidな推定ができると書かれていました(Ch.12.3).

IP weighing法におけるモデル化の核は,$E[A|L] =\pi (L)$のモデル化であり,logistic regressionなどが用いられることが多いです.Propensity scoreを用いる手法全てに共通することですが,$L$にoutcomeには弱く影響しtreatmentに強く影響するような(言ってしまうと操作変数に近いような)変数を含んでいると推定が不安定になることが欠点です.

また,$A$がcontinuousな場合は$\pi(L)$は何らかの確率密度分布probability density function (pdf)を出力する必要があり,かつこの誤設定に敏感なのでかなり慎重にならなければならないと述べられています.

(p.156) Unfortunately, pdfs are generally hard to estimate correctly, which is why using IP weighting for continuous treatments will often be dangerous. One should be careful when using IP weighting for continuous treatments because the effect estimates may be exquisitely sensitive to the choice of the model for the conditional density f(A|L).

IPW自体はたくさんのblogでも紹介されているので深入りしませんが,一応TP3.1の式変形を追っておきます.

$$ \begin{eqnarray} E[Y^{a}] &=& \sum_{l}E[Y^{a}|L=l]Pr[L=l]\\ &=&\sum_{l} {E[Y|A=a, L=l] Pr[L=l]}\\ &=&\sum_{l} \frac{1}{\pi [a|l]}{E[Y|A=a, L=l] \pi[a|l]Pr[L=l]}\\ &=&\sum_{l} \frac{1}{\pi [a|l]} I(A=a)Y Pr[L=l]\\ &=& E\left[\frac{I(A=a)Y}{\pi[a|l]}\right]\\ &=& \frac{\sum \frac{I(A=a)Y}{\pi[a|l]}} {\sum \frac{1}{\pi[a|l]}} \end{eqnarray} $$

$E[Y|A=a, L=l] \pi[a|l] = I(A=a)Y$の部分の変形がややトリッキーですが,$A=a$の時の期待値に$A=a$となる割合をかけているので,この部分は,

$$ I(A=a)Y = \left\{ \begin{array}{} Y & (A=a)\\ 0 & (A\neq a) \end{array} \right. $$ の期待値に等しくなります.また,最後は${\sum \frac{1}{\pi[a|l]}}$がtotal populationのNに等しくなるためです.

g-methods②: standardization and the parametric g-formula (Ch.13)

こちらはIPWより見かける機会は少ないかもしれません. $$ ATE = \sum_{l} E[Y|A=a, L=l] Pr[L=l] $$ IP weighingではサンプル毎に重みをかけてconterfactualを推定しましたが,L=lの層ごとに考えて層の重みでsummationしています.summationはLでの期待値とみなせるので,L=lの層内でYの期待値(conditional mean outcome)を取った後にLについて期待値を取ったdouble expectationと解釈できます.

実はIP weightingの式変形の途中で同じ式が出現しており,結局は同じものを求めていますが,モデル化する部分が違うのです.

上式のconditional mean outcomeにそのestimateを代入(plug-in)したものを,plug-in g-formulaと呼びます.例えば,$\hat{E}[Y|A=a, L=l]$として,$A, L$を変数としたoutcome regression model(例:$A$,$L$の一次項,二次項,一次の交互作用項などを入れた線形モデル)を考えることができます.

なお,$Pr[L=l]$は実際には推定する必要はなく,サンプルの全ての$l$について$\hat{E}[Y|A=a, L=l]$を計算して平均すればATEを求めることができます(empirical distribution).

また,後のstratification and outcome regressionでも,outcome regression model: $E[Y|A, L]$が出てきます.standardization (g-formula)のポイントは,$Pr[L=l]$をかけて和を取ることで母集団全体についての平均(=期待値)を取っているという部分だと思います.

g-methods③: doubly robust estimators(TP13.2)

doubly robust estimatorにもいろいろあるようで,FP13.2とTP13.2で少し違うモデルが取り上げられていますが,ここではTP13.2のものを載せておきます.

$$ \pi(L) = Pr[A=1|L=l]\\ b(L) = E[Y|A=1,L] = E[\frac{AY}{\pi(L)}] $$

として,それぞれの推定式を$\hat{\pi}(L)$,$\hat{b}(L)$と表します.ここで,doubly robust estimatorは, f:id:tmitani-tky:20191104194625p:plain となります(Texclipではうまく表示できるがhatenaだとうまく表示できず...).

証明は追えていないのですが,この時のbiasはIPWのerror$\frac{1}{\pi(l)}-\frac{1}{\hat{\pi}(l)}$と,outcome modelのerror$b(l)-\hat{b}(l)$との積になるため,doubly robustと呼ばれます.

g-methods④: structural nested models and g-estimation (Ch.14)

これも星野本などではあまり取り上げられていない手法だと思います.ただ,時間依存性介入のような複雑な状況でなければover killであるとも述べられており,Part IIIへの準備という側面が強いのかもしれません.p180には"In fact, structural nested models of any type have rarely been used"とあります.

これはconditional exchangeabilityを逆手に取ったような手法です.conditional exchangeabilityのもとでは$A$と$Y^{a}$は独立であり,Lに加えて$Y^{a}$を条件づけたところでA=aの分布は変わらない,つまり, $$ Pr[A=1|Y^{a=0},L]=Pr[A=1|L] $$ が成り立っているはずで, $$ logit Pr[A=1|Y^{a=0},L] = \alpha_{0} + \alpha_{1}Y^{a=0}+\alpha_{2}L $$ を推定すると$\alpha_{1}=0$になるはずだ,というロジックです.そこで$Y^{a=0}$の候補を虱潰しにサーチして,$ \alpha_{1}$が0になればそれが正しい$Y^{a=0}$だろうというわけです.

かといって任意の$Y^{a=0}$を調べることは計算量が爆発しますし,解も無限に出てきてしまいそうです.そこで,causal effectの式を少し変形してstructural model: $$ E[Y^{a}-Y^{a=0}|A=a,L]=\beta_{1}a $$ を考えます.このmodelはstructural nested mean modelとも呼ばるそうですが,"nested"はtime-varying treatmentでのみnestedらしいのであまり気にしないでよさそうです(p173).

仮想的な$Y^{a=0}$として, $$ H(\psi^{\dagger}) = Y -\psi^{\dagger}A $$ を考えます.$\beta_{1}$としてありえそうな値の範囲として,(例えば教科書の例では)-20から+20まで0.01刻みで計算しています.その値を$\psi^{\dagger}$に代入した$H(\psi^{\dagger})$を使ってlogistic regressionまで解き,$ \alpha_{1}=0$にもっとも近い結果が得られる$\psi^{\dagger}$が,$\beta_{1}$の不偏推定になるということのようです.

なお,ここでは単一パラメータのモデルのみ取り上げましたが,複数のパラメータを持つモデルでは制約が一つだと複数の候補がでてきてしまいます.そこでパラメータ数と同じだけの制約を設けるために,$E[Y^{a}-Y^{a=0}|A=a,L]=\beta_{1}a + \beta_{2}aL$であれば,$logit Pr[A=1|Y^{a=0},L] = \alpha_{0} + \alpha_{1}Y^{a=0}+\alpha_{1}Y^{a=0}L + \alpha_{3}L$など項が対応したlogstic modelを考えてあげると良いです.

また,パラメータが増えると計算量がexponentialに増えてしまいますが,実際にはしらみつぶしに計算せずにclosed formで解くことができるそうなので,気になる方はTechnical Point(14.2)を見てみてください(よく分かりませんでした...).

長くなってきたので分けます.stratification-based methodsは次の記事で.

PubMedから医療AI論文を抽出してSlackに投稿する

f:id:tmitani-tky:20190723220725p:plain
こんな感じに投稿されて,通知がくるのは嬉しい.

元ネタ

ncrna.jp

一部slackのAPI仕様が変わってこともあり、微修正した。

Google Apps Script+Slack Appsで完結するようになった.

1. Pubmedの検索クエリを反映したRSSを作成する

f:id:tmitani-tky:20190723205439p:plain 適当な単語で検索した後に,検索窓の下に出現する"Create RSS"からRSSのURLが得られる. Core Clinical Journalでフィルタリングしようと思ったが,RSSにはフィルターは効かなかった.そもそもCore Clinical Journalは雑誌をカスタマイズできないので,最初から自分で作ったほうが良さそう.

下記を参考に,各分野で上から1-2個の雑誌をor検索に入れた条件式を作成した.advanced searchに行くとGUIで作成できる.

Impact factorで分野の違いが考慮されていないわけがなかろうが(笑)[第二版] | 水道研究者の生態

((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((((("The New England journal of medicine"[Journal]) OR "Lancet (London, England)"[Journal]) OR "JAMA"[Journal]) OR "BMJ (Clinical research ed.)"[Journal]) OR "Annals of internal medicine"[Journal]) OR "Journal of clinical oncology : official journal of the American Society of Clinical Oncology"[Journal]) OR "The Lancet. Oncology"[Journal]) OR "Nature medicine"[Journal]) OR "Circulation"[Journal]) OR "Blood"[Journal]) OR "European heart journal"[Journal]) OR "Gastroenterology"[Journal]) OR "Nature neuroscience"[Journal]) OR "Immunity"[Journal]) OR "British journal of anaesthesia"[Journal]) OR "Anesthesiology"[Journal]) OR "Clinical chemistry"[Journal]) OR "Clinical infectious diseases : an official publication of the Infectious Diseases Society of America"[Journal]) OR "Critical care medicine"[Journal]) OR "Critical care (London, England)"[Journal]) OR "The British journal of dermatology"[Journal]) OR "Diabetes care"[Journal]) OR "Diabetes"[Journal]) OR "Resuscitation"[Journal]) OR ("The Journal of clinical endocrinology and metabolism"[Journal])) OR ("MMWR. Morbidity and mortality weekly report"[Journal])) OR "International journal of epidemiology"[Journal]) OR "American journal of epidemiology"[Journal]) OR "Epidemiology (Cambridge, Mass.)"[Journal]) OR "Nature genetics"[Journal]) OR ("American journal of obstetrics and gynecology"[Journal])) OR "Leukemia"[Journal]) OR "Nature immunology"[Journal]) OR "Journal of medical Internet research"[Journal]) OR "Journal of the American Medical Informatics Association : JAMIA"[Journal]) OR "Journal of biomedical informatics"[Journal]) OR "International journal of medical informatics"[Journal]) OR "The Lancet. Neurology"[Journal]) OR "Neurology"[Journal]) OR "Brain : a journal of neurology"[Journal]) OR "Journal of neurosurgery"[Journal]) OR "Neurosurgery"[Journal]) OR "World neurosurgery"[Journal]) OR "The American journal of clinical nutrition"[Journal]) OR "Ophthalmology"[Journal]) OR "The American journal of sports medicine"[Journal]) OR "Pain"[Journal]) OR "Acta neuropathologica"[Journal]) OR "The Journal of pathology"[Journal]) OR "Pediatrics"[Journal]) OR "Biological psychiatry"[Journal]) OR "Psychological science"[Journal]) OR "Journal of general internal medicine"[Journal]) OR ("BMC pregnancy and childbirth"[Journal])) OR ("American journal of respiratory and critical care medicine"[Journal])) OR "American journal of public health"[Journal]) OR "Radiology"[Journal]) OR ("Fertility and sterility"[Journal])) OR ("Archives of physical medicine and rehabilitation"[Journal])) OR "Annals of the rheumatic diseases"[Journal]) OR ("Journal of personality and social psychology"[Journal])) OR "Annals of surgery"[Journal]) OR "Environmental health perspectives"[Journal]) OR ("American journal of transplantation : official journal of the American Society of Transplantation and the American Society of Transplant Surgeons"[Journal])) OR "PLoS neglected tropical diseases"[Journal]) OR "European urology"[Journal]) OR "Stroke"[Journal]) AND (((machine learning) OR deep learning) OR artificial intelligence)

参考までに作成した検索式を載せるが,かなり偏っているのでご自身で作成したほうが良いと思う.ちなみに"reinforcement learning"は,生物学的な強化学習そのものがたくさんヒットするので工夫のしどころ(とりあえず諦めた).

f:id:tmitani-tky:20190723210043p:plain

slackにはRSSリーダーもあるが,このRSSをそこに直接渡すと上記のようにまとめられてしまう.これはちょっと今ひとつ.

2. slack側の設定

旧tokenはもう推奨されないらしいので、下記の中ごろを参照してSlack Appsを作成した.

qiita.com

f:id:tmitani-tky:20190723210756p:plain

今回は通知するだけなので,Incoming Webhookのみ有効にすれば良い.Install Appsのところに,RESTに必要なURLが載っている.認証は必要なときに確認されるので画面に沿って進める.なお,投稿時のユーザー名はAppsで作成した標準のユーザー名が使用され,変更できなくなったらしい.

なお,APIの解説ページにslackのGUIアプリからはたどり着けなかったので,"api slack"などと検索してAPIのサイトに行くのが良いと思う.

Slack API | Slack

3. Google Apps Scriptの作成

あとは元ネタの微修正.

変更点1

Incoming WebhookはPOSTで叩けるので,標準ライブラリのUrlFetchApp.fetchが使える.このため追加ライブラリのインストールが不要になった.(REST APIJSONを使ったことがなかったで,この部分が地味に大変だった.blockのみをpayloadに入れていてうまく行かず1時間くらい溶かしたorz.1メッセージあたりの最大block数50の制約もトラップ.)

結局のところ,公式のdocumentが一番有用だったと思う.payload直下のtextは fallback string であり,メッセージがうまく読み込めなかったときやアラートなどに使用されるらしい.このtextを指定していないと,no_text errorが出続ける(出続けた).

Reference: Message payloads | Slack

変更点2

スプレッドシートを別で作るのがなんとなく嫌だったので,parameterを使って更新確認をしている.すべてテキストとして保存されてしまい,連番を管理するのがやや面倒だったので,','で区切って配列を実現している.GUIDの仕様が変わって上記の文字が含まれるようになると破綻するはず.

変更点3

英日翻訳したタイトルもつけた. var title_ja = LanguageApp.translate(title 'en', 'ja') これだけでテキストの翻訳ができる.至れりつくせり😊

変更点4

公開日も載せるようにした.CDATAセクションという,構造化されてないベタ打ち部分に入っているのがちょっと面倒.abstractも同様にして取得できるが,slackで眺めるには情報過多になりかねないので,タイトルから興味を持ったらリンクから飛ぶことで良しとした.

変更点5

deplecaitedが懸念されるAttatchmentではなく,Blockにした.これによってカスタマイズの幅が広がった.markdown記法に則ればいろいろ調整が効く模様.attatchmentではcolorを指定することで使えたブロックごとの左側の縦棒が使えない(これは公式でもattachmentからblockへ変更によってできなくなった唯一のことだと記載されている).

引用にすると色の指定はできないものの縦棒が出現して少し視認性が良いような気がするのでそうしてある.

慣れた人なら一瞬なのだろうけど,結構苦労したので最後にスクリプトを載せておく.Google Apps Scriptに貼り付けてHookURLとRSSのURLを変更すれば動くはず.

function PubMedSlack() {
  var HookURL = 'https://hooks.slack.com/services/xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx';
  var N_IN_BLOCK = 5;
  
  var properties = PropertiesService.getScriptProperties();
  var properties_dict = properties.getProperties();
  
  // [keyword, RSS_URL]を要素に持つリスト。keywordはスクリプト内で一意にしてください。
  var RSS_l = [['machine learning',
               'https://eutils.ncbi.nlm.nih.gov/entrez/eutils/erss.cgi?rss_guid=xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx'],
              ['test',
              'https://eutils.ncbi.nlm.nih.gov/entrez/eutils/erss.cgi?rss_guid=xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx']];
  
  
  
  for (var i = 0; i < RSS_l.length; i++) {
    var keyword = RSS_l[i][0];
    var feedURL = RSS_l[i][1];
    
    var lastFetched = ['']; 
    if (properties_dict[keyword]){
      var lastFetched = properties_dict[keyword].split(',');
    };
    
    //lastFetched = ['']//連続して試したいときはコメント解除を
    
    // Fetch
    try {
      var rssText = UrlFetchApp.fetch(feedURL).getContentText(); // たまにPubMedが404エラーを出すことがあるのでtryで回避
    } catch (e) {
      continue; // もしエラーが出てもとりあえず無視(次回fetchできれば良しとする)
    }

    // Parse
    var rss = XmlService.parse(rssText);
    var items = rss.getRootElement().getChildren('channel')[0].getChildren('item');

    // Check new items
    var news = [];
    for each(var item in items) {
      if (lastFetched.indexOf(item.getChild('guid').getText()) < 0) {
        news.push(item);
      }
    }

    if (news.length > 0) {
      // Prepare blocks
      var blocks = [{
        type: "section",
        text: {
          type:"mrkdwn",
          text:'Here are ' + news.length + ' new papers for *"' + keyword + '"* :eyes:'
        }
      }];
      
      var txt = '';
      
      var j = 1;
      for each(var item in news) {
        var title = item.getChild('title').getText();
        var title_ja = LanguageApp.translate(title,'en','ja');
        var authors = item.getChild('author').getText().replace(/^\s+/, '').split(','); // なぜか先頭にあるスペースを削除
        var author = authors[0];
        if (authors.length>1){
           author += ', _et al._';
        };
        var journal = item.getChild('category').getText() + '.';
        var link = item.getChild('link').getText();
        var description = item.getChild('description').getText();
        var date = description.split('</p>')[1].split('. ')[1];
        // var abstract = description.split('</p>')[3];
        
        txt += '>*<'+link+'|'+title+'>*\n>'+title_ja+'\n>'+ author + ' ' + '_*' + journal + '*_ ' + date + '\n  \n';
        
        //5記事ごとに1block生成する
        //1記事ごとにブロックを生成するとブロック数の上限50にひっかかることがある
        //maximum length for the 'text' in a block is 3,000 characters.
        //messageあたりは100,000characters
        //1記事1メッセージしないのは無料版slackでメッセージ数を節約するため
        if ((j%N_IN_BLOCK)==0){
          var l = txt.length;
          blocks.push({
            type: "section",
            text: {
              type:"mrkdwn",
              text: txt
            }
          });
          txt = '';          
        };
        
        j += 1;
      }; 
      
      if ((j%N_IN_BLOCK)!=1){
        blocks.push({
          type: "section",
          text: {
            type:"mrkdwn",
            text: txt
          }
        });       
      };
      
      var payload = {
        text: 'Here are ' + news.length + ' new papers for *"' + keyword + '"* :eyes:', //failback sentence
        blocks: blocks
      };
      
      // Post Slack on Incoming Hook
      var options = {
        method: "post",
        headers: {"Content-type": "application/json"},
        payload: JSON.stringify(payload)
      };
      UrlFetchApp.fetch(HookURL, options);
      
      // Record fetched items
      var guids = [];
      for each(var item in items) {
        guids.push(item.getChild('guid').getText());
      };
      properties.setProperty(keyword, guids.join(','));
      
    };
    
  };
  
};

NAACL 2019の医療関連論文を概観する.

North American Chapter of ACL (2019) - ACL Anthology

medic*, health, diseaseで検索.WS論文はおもしろそうなものだけ.

Biomedical Event Extraction based on Knowledge-driven Tree-LSTM - ACL Anthology

医学生物学分野におけるevent extractionにおいて背景を捉えるために外部知識を利用するknowledge base (KB) -driven tree-strucutred long short-term memory networks (Tree-LSTM)を提案.

Gene Ontologyにおけるentity typeとpropatyの記載からKB concept embeddingを作成し,sentence embeddingや他のword embeddingと組み合わせて使用した.説明的な文章の遠い依存関係をNNで捉えるために,先にe Stanford dependency

parserを用いて構文解析を行ったのちにtree-based LSTMを使用した.BioNLP2011のshared taskでstate-of-the-artを更新.

Predicting Annotation Difficulty to Improve Task Routing and Model Performance for Biomedical Information Extraction - ACL Anthology

医療従事者によるアノテーションはハイコストだが,難しい文章のみを医療従事者に依頼すれば,効率的に有効なアノテーションができるのでは,という発想.crowdworkerのラベルのみで学習させたモデルと,そのラベルとの差を難しさとしてモデルを構築.このannotator間の不一致,とは相関していなかった.難易度の高い文章をコーパスから除くとむしろ学習結果が低下.その文章に医療従事者によるアノテーションを付加したところ学習結果が向上した.

→ weakly supervised learningとか,active learningにつながる話.医療コーパスはannotationがhigh costなのでこういう研究が出てくると有意義なコーパスづくりに繋がりそう.

Inferring Which Medical Treatments Work from Reports of Clinical Trials - ACL Anthology

毎日100以上のRCTが報告され,これを追うのは大変.Cochraneなど人手で情報収集している組織もあるが,NLPで自動化できる部分もあるのでは.本文から,介入,比較対象,アウトカムをアノテーションし,sig. decrease, no difference, sig increaseをラベル付けしたコーパスを作成した.annotation + RNNのモデルで推測.なお,データセットgithubに公開されている.

→ 介入,比較対象,アウトカムを抜き出す部分こそ自動化したいところ.

A Survey on Biomedical Image Captioning - ACL Anthology

ワークショップ.レントゲン読影レポート自動生成についてのsurvey論文.2018年までに公開されたdatasetもまとめられている.

→ この論文のあと,2019年にかなり大規模なdatasetが相次いで公開されている.

Medical Entity Linking using Triplet Network - ACL Anthology

疾患表現からのentity linkingにおける候補疾患のランキング学習において,triplet networkを使用して学習したところ既存研究を上回る成績だった.

Multilingual prediction of Alzheimer’s disease through domain adaptation and concept-based language modelling - ACL Anthology

会話や言語機能にアルツハイマー認知症の初期症状がでるというのはかねてから指摘されており,様々な言語で報告があるがいずれの研究でもsample数が少ないのが課題だった.言語間で共通するアルツハイマー認知症初期の言語特徴を特定し,サイズの小さいフランス語データセットに比較的大きな英語データセットを加えることで,フランス語での識別能を向上させた.

dictationする部分と,文章からinformation unitを抽出する部分は人手.そこinformation unitのsequence上でLanguage Modelを構築しprobabilityなどを特徴量に使用.

→ 新規性がよくわからず....

Distantly Supervised Biomedical Knowledge Acquisition via Knowledge Graph Based Attention - ACL Anthology

東北大乾研から.Knowledge Graphは,(head, relation, tail)というtripletで表され,Relation Extraction, Question Answeringなど種々のNLPタスクで有用だが,医学用のKnowledge Graphは,FreeBaseやWikiDBなどの汎用Knowledge Graphに比べて成熟しておらず語彙数が不足している.コーパスからKnowledge Graphのためのrelationを自動的に抽出するシステムが望まれるが,こちらにも教師データが不足しているという問題がある.

RE modelとKnowledge Graph Completion (KGC) modelをjointly trainingするモデルが,汎用KGの構築に有用であり,こちらをbase modelとして,entity typeによる成約を加えたモデルでUMLS + Medlineコーパスで学習させたところ,十分に医学分野に適用可能であり,拡張も有効であった.

→ 文章からKnowledge Graphを構築できるのは強い.Medlineは公開用のかなり整った文が多いので学習がうまくいきやすく大規模Knowledge Graphの構築につながるのかもしれない.将来的にはこうやって自動生成されたKnowledge GraphがSNOMED CTにとって代わるのかも.NN構造はもう少し詳しく読んでみたい.

CounterFactual Machine Learning勉強会 #1 に参加してきた

cfml.connpass.com

CyberAgentの谷口氏、CyberAgent AILab AdEconチームリーダーの安井氏、CyberAgent AILab AdEconでインターン中の斎藤氏による勉強会。

1. CFMLの概要と研究動向 (谷口和輝氏 (@kazk1018))

マークシティで迷って少し遅れてしまった。駅直結のオフィスは便利そうで羨ましい。

・バンディットにおける選択しなかったアームの報酬をどう推論するかという問題と、因果推論の反実仮想モデルはいずれも「共変量シフト」として通底している

・共変量シフトとはp(y|x)は変わらないが,学習時のp(x)と推論時のp(x)が変わってしまうという問題.→ 基本的にはpropensity scoreのIPW推定が主流.

・Causal Inferenceについての学会動向

KDD

 Cauasl Discovery, 2018/2019

 Offline and Online Evaluation of Interactive Systems 2019

NIPS/NeurIPS

 From 'What if?' To 'What Next?' 2017

 Causal learning 2018

RecSys

 REVEAL 2018/2019

ICML

 FAIM'18 Workshop (Causal ML)

→(感想)医療ではバンディットというとかなりgreedyによった保守的な選択を取る(探索は,個々人の医師の裁量の範囲内を除くと,極めて限定的に登録・承認された先進医療やRCTでのみ実施される)ため,観察データからの因果推論が大きな意義を持つ.正直なところweb系はA/B testすればいいよね,と思っていたところがあったが,確かにログデータからしっかりと推論することがビジネス上も重要だと実感できた.

2. バンディットと因果推論(Shota Yasui氏 @housecat442)

・off-policy evaluation(バンディットのログデータからの評価)は反実仮想についての評価であり因果推論そのもの.

・take home messageは「確率的な意思決定をして,その確率データを持っておこう」という提案(現状ではargmaxかUCBがほとんど)

・それができないときは傾向スコアによるIPW推定で.

・Doubly Robustを用いてもよい.(このあたりも統計的因果推論の話)

・More Robust Doubly Robust (MRDR)という推定量もあるらしい.

→ (私見)バンディットのgreedy/exploreの話そのものだが,その単回での期待値は常にargmax >= 確率的意思決定となるので,そのデメリットと推定精度の向上がpayするかどうかが問題では.

3. 因果推論で推薦システムを問い直す(斎藤優太氏 @moshumoshu1205)

過去のデータを元に評価をすることをオフライン評価と呼ぶ。推薦システムのオフライン評価においては、観測データは過去の方策(推薦)に依存する。推薦したものしか観測されていない。ratingの場面であれば、ユーザーは中庸な評価のアイテムよりpos/negともに強い印象をもったアイテムに対して何らかのratingを付与しやすい。特にこの、「ユーザーによる自己選択」の部分は、システム側からは把握できないのが難しい。

この観測データ分布のまま最適化をしてしまうと「真に評価したい分布」と異なる分布に対する評価になってしまう。これをinversed propensity weighting によって補正すると、目的の分布に対しての最適化を実現できる。

なお、スライドではユーザー×アイテムについての離散的な一様分布を対象分布としていた。(ここについては結局推薦後のクリック率を最適化したいので、ランキング学習のような文脈での分布を想定することもできそう)

→(私見)「分布の違い」には最大限注意しよう、という大事な視点。医療でいうところのintention to treat analysis と as treated analysisの違いに近い話かも。

追記

統計寄りの学会としては,international causal inference conference, Atlantic Causal Inference Conferenceなどもあり,validationの困難さゆえに設定に気合の入ったコンペティションも開催されているよう.BARTやcausal forestを利用した因果推論についてもかなり豊富に文献があるようので,興味ある方は調べてみてください.

個人因果効果を推測する②

github.com

Microsoftによる因果推論ライブラリEconMLのなかの一つのモデル.

econml.azurewebsites.net

documentのdeep instrumental variablesの項目に簡潔にまとまっている.

ひとことで言うと,

操作変数モデルにおいて各stageにNNを使用したモデル

メリット

unconfoundedness assumptionが要らない

デメリット

操作変数が必要.

つまり

まず1段目のNNで操作変数+X → treatmentを学習する

そして2段めのNNでtreatmentとXからoutcomeを学習する.この2段めの学習の際に積分が残っているので,サンプリングして対処しているらしい.

因果効果が一定という仮定をおいておらず,個人因果効果が推定できる.

また,hyper-parameter tuningのため,out-of-sample validationをしている.counterfactualだが2 stageに分けているのでいずれのstageでもそのまま計算することでvalidationが可能とのこと.

感想

操作変数さえあれば有用そうだけど,なかなか良い操作変数を見つけるのが大変と思う.

そもそも操作変数って何?

healthpolicyhealthecon.com

書籍であれば,『調査観察データの統計科学(星野崇裕)』がおすすめ. https://www.amazon.co.jp/dp/4000069721

もしくは元論文であるHartford+ 2014のsection 2に,一般的な操作変数についてかなり丁寧に書かれていた.