言語処理学会年次大会2024 若手奨励賞

当研究室の博士学生の牧野晃平君が、言語処理学会年次大会の若手奨励賞を受賞しました。以前、プログラム委員長を務めた関係で選考に関わった経験がありますが、数多くの秀逸な論文の中から、若手奨励賞に選ばれるのは至難の業です。2016年に当時M2の山根君が上位語・下位語とそのクラスタの同時学習で若手奨励賞に選ばれて以来の受賞になります。選考に関わった委員の皆様の苦労は良くわりますので、感謝の言葉しかありません。

P10-10訓練可能なk近傍Retrieverで関係抽出事例を導入したニューラルプロンプティング
牧野晃平 (豊田工大)
本研究は,近傍事例を用いたLLMによる関係抽出において,近傍事例選択Retrieverと関係抽出LLMの学習を同時に行うend-to-end学習を実現しました.既存研究のRetrieverは微分不可能な操作であったためRetrieverとLLMは個別に学習する必要がありましたが,本研究ではRetrieverの事例選択を埋め込み表現に変換し,更に,LLMの入力をソフトプロンプトで行うことで,end-to-end学習を可能としています.これにより関係抽出に適したRetrieverの学習が実現できると期待され,アイデアの新規性も認められるため,本研究は若手奨励賞に値すると判断しました.
https://www.anlp.jp/nlp2024/award.html

博士号取得

知能数理研究室の博士課程の辻村君が2月に公聴会を行い博士号を取得しました。博士課程在学中に3本のジャーナル論文を発表し、そのうち2本は Journal of Biomedical Informatics (IF=8) に筆頭著者として論文を通しています。n2c2のシェアードタスクでも2019年と2022年に世界一の性能を達成するなど堂々たる成果で博士課程を修了しました。

Computer Speech & Language

Computer Speech & Languageに論文がアクセプトされました。

Savong Bou, Makoto Miwa, Yutaka Sasaki, Two evaluations on Ontology-Style Relation annotations, Computer Speech & Language, Elsevier, 2023. (accepted) (IF=4.3) (doi:https://doi.org/10.1016/j.csl.2023.101569)

NB: Currently, a pre-proof version is available online. There will be some minor revisions applied to the pre-proof version.

2年前に投稿してやっと採録されました。査読でもめたという感じではなく、単純に1ラウンドの査読が1年という時間スパンで動いているためです。

Accepted for JBI

Another full paper has been accepted for publication in the Journal of Biomedical Informatics.

Tomoki Tsujimura, Makoto Miwa, Yutaka Sasaki, Large-scale neural biomedical entity linking with layer overwriting, Journal of Biomedical Informatics, Elsevier, 2023. (to appear) (IF=8)

This paper reports a pure neural entity linking model that can link each entity to one of millions of biomedical concept classes. As the number of concepts which are included in a training set is much smaller than the real size of biomedical databases, we augment the training data with terms and synonyms of database entries and conduct two step training. The first step is ordinary training with all the data (i.e. original training data+ augmented data) and then the second step conducts layer overwriting at the final output layer. This trick is not easy to explain in short but it is clearly effective to improve test scores.

SNL2023開催(6/28・29)

(画像はイメージです)

第7回目のSymbolic-Neural Learning国際ワークショップを、2023年6月28日(水)午後、29日(木)午前・午後に東京(理研AIP)で開催します。前回は名古屋で対面形式で開催しましたが、今回も対面形式での参加のみになります(一部基調講演はオンラインになります)。この分野はNeuro-Symbolic Learningとも呼ばれ最近注目されています。

また、会場の都合により事前に参加登録した人しか会場に入れません。当日の参加登録は受けつけていませんので、ご注意ください。また、会場の収容人数の制約により、参加者数の上限が100名ですので、お早目に参加登録いただけるようお願いします。

詳細はHPで確認ください。参加登録はこちらから。6/11までポスター発表の申し込みを受け付けていますので、そちらはHPから辿ってください。

参加費

Early (until 6/15)
一般 9,000円
学生 4,000円

Regular (6/16~20)
一般 10,000円
学生 5,000円

Last Minutes (6/21~26)
 一般 12,000円
 学生 6,000円

バンケット(日本橋高島屋7階 Two Rooms)
 ※要オンライン事前登録(飛び入り参加はできません)
 一般 4,000円
 学生 3,000円

基調講演として以下の著名な研究者に講演いただきます。

Keynote talk I:   Heng Ji (University of Illinois Urbana-Champaign), NLP
Keynote talk II:  Matthew Walter (Toyota Technological Institute at Chicago), Robotics
Keynote talk III: Angelica Lim (Simon Fraser University), Robotics
Keynote talk IV: Albert Gu (Stanford University), Machine Learning

また顕著な成果を挙げられている次の招待講演者としてお呼びしております。

Yuta Nakajima (Osaka University)
Yusuke Mukuta (University of Tokyo)
Naoto Inoue (CyberAgent AI Lab)
Masanao Ochi (The University of Tokyo)
Ryo Ueda (University of Tokyo)
Katsuhiko Hayashi (Hokkaido University)
Kazu Ghalamkari (Riken AIP)
Go Irie (Tokyo University of Science)

講演の詳細はHPで確認いただければと思います。AIの中の分野としては分化していても、似たような研究が行われていることもあり、深層学習にどのようにして知識や推論・論理などのシンボリックな離散構造を入れるのかという共通の課題について情報交換できる機会になっています。

BioNLP 2023論文採択

ACL 2023に併設されている BioNLP 2023 に3本の論文が採択されました。

Ryuki Ida, Makoto Miwa, Yutaka Sasaki, Biomedical Document Classification with Literature Graph Representations of Bibliographies and Entities, BioNLP 2023, July 2023. (accepted)

Koshi Yamada, Makoto Miwa, Yutaka Sasaki, Biomedical Relation Extraction with Entity Type Markers and Relation-specific Question Answering, BioNLP 2023, July 2023. (accepted)

Takuma Matsubara, Makoto Miwa, Yutaka Sasaki,Distantly Supervised Document-Level Biomedical Relation Extraction with Neighborhood Knowledge Graphs, BioNLP 2023, July 2023. (accepted)

Accepted for JBI

Our paper have been accepted for publication in the Journal of Biomedical Informatics.

Tomoki Tsujimura, Koshi Yamada, Ryuki Ida, Makoto Miwa, Yutaka Sasaki, Contextualized Medication Event Extraction with Striding NER and Multi-turn QA, Journal of Biomedical Informatics, 2023. DOI: https://doi.org/10.1016/j.jbi.2023.104416 (IF=8.0)

This paper reports our NER/Event Extraction system which participated in 2022 n2c2 Track 1. Fortunately, it was our system that ranked first in some official evaluations.

Our system also ranked fist at the 2019 n2c2 challenge in 2019. It seems that our lab and n2c2 challenges are best match. The first author, a Ph.D. candidate, is brilliant in finding the best solution for each challenge considering the time and computational constraints. We also participated in BioCreative VII and the results were also very satisfactory.