?? ????
?? ??
?? ??? ?? ??? ????? ??? ?? ?? ???? ? ?? ???? ???? ?? UNSW, Argonne, University of Chicago ? ?? ??? ???? SciQAG ?????? ??????.
?? ??? ?? ??? ????? ??? ?? ?? ???? ? ?? ???? ???? ?? UNSW, Argonne, University of Chicago ? ?? ??? ???? SciQAG ?????? ??????.
Jul 25, 2024 am 06:42 AM
Editor | ScienceAI
QA(?? ? ??) ??? ??? ??? ??(NLP) ??? ???? ? ??? ??? ???. ??? QA ??? ??? ??? ?? ???? ? ??? ? ?? ?? ??? LLM(?? ?? ??)? ??, ?? ??? ??? ???? ???? ??? ????? ???? ??? ??? ? ????.
?? ??, ??, ??? ? ?? ??? ???? ???? QA ??? ??? ??? ??? ??? ???? ??? ? ?? ??? ????.
??, ??? ??? ??? ???? ???? ??? ????? ???? ??? ??? ?? ?? ??? ???? ??? ??? ?? ?? ??? ??? ???? ? ????. ?? ????? ?? ?? ??(openQA)? ??? ??? ?? ????? ??? ? ??? ??? ?? ??? ?????.
??, ?? ??? ??? ?? ? ???? ?? ?? ??? ????? ?? ???? ?? ?? ??? ?? ???? LLM? ?? ??? ?? ?? ??? ???? ?????.
??, ??? ???? ??? ??? ??? ?? ???? ??? ?????.
??? ??? ???? ?? ?? ???? QA ??? ??? ???? ? ???? ?? LLM? ?? ???? ???? ?? ??? ???.
Illustration: ?? ???? ???? ?? ?? ? ?? ?? ???? ?? SciQAG ?????.
?? ?? ?? ??? ?????? ?????? Ian Foster ???(2002? ?? ?? ???), ?????????? Bram Hoex ??? UNSW AI4Science?, ??, AI4Science ?? GreenDynamics ? ?? ????? Jie Chunyu ???? ??? ?? ??? ???? ??? ?? ?? ???? ??? ?? ?? ?? ? ?? ?? ???? ???? ??? ??? ?????? SciQAG? ???? ??????. (LLM).
?? ??:https://arxiv.org/abs/2405.09939
github ??:https://github.com/MasterAI-EAM/SciQAG
????? SciQAG? ???? ??????. ???? ??? ??? ?? QA ??? ??? SciQAG-24D?? 24? ?? ??? 22,743? ?? ???? ??? 188,042?? QA ?? ???? ??? LLM? ?? ?? ? ??? ?? ??? ????? ???????. ????.
??? ?? SciQAG-24D ??? ???? LLM? ?? ???? ??? ?? ?? ? ?? ??? ??? ?? ??? ? ??? ???????.
AI for Science ????? ?? ?? Q&A ?? ??? ???? ?? ??? ??, ?? ? ?? ??? ?? ??? ???????(https://github.com/MasterAI-EAM/SciQAG).
SciQAG-24D ???? ?????? ??? SciQAG ?????
SciQAG? QA ???? QA ???? ???? ???, ??? ?? ??? ???? ??? ?? ??? ?? ?? ???? ???? ?? ??? ???. ?? ???? ?? ??? ?? ? ?? ??? ??? ? ???? ?? ??? ?? ?? ?? ? ?? ?? ????? ???? ?? ?? ? ?? ??? ??? ????.
QA Generator
????? ?? ??? ?? 2?? ????(????)? ???? LLM? ?? ???? ??? ?? ???? ???? ??? ?? ?? ??? ? ??? ????.
??? ??? ?? ??? ??? "??? ??" ??? ????? ?? ??? ???? ??? ??? ?? ?? ???? ??? ??? ????. ??????? ??? ??? ?? ?? ???? ??? ???. ?? ??? ?? ??? ????? "?/? ??", "?/? ??" ?? ?? ?? ???? ???? ????. ?? ?? ??? ?/??? ?? ?????. ??).
??? ??? ??? ??? ?? ????? ?? ?? LLM? ???? ?? ????? ??????. SciQAG ???? ?? ???? ??? ?? ?????? ???? ??? ??? ?? ?? ?? ?? ?? ?? LLM? ???? ??? ? ????.
QA ???
???? ? ?? ??? ???? ? ?????. (1) ??? ?? ? ?? ?? ??? ?????. (2) ??? ??? ?? ??? ?? ?? ? ?? ?? ?????.
????? ???, ????, ???, ???, ???? 5?? ???? ??? ?? ?? ?? RACAR? ??????.
? ???? ????? GPT-4? QA ???? ?? ???? RACAR? ?? ??? QA ?? ????? ?? ??? 1~5???(1? ???? ??, 5? ??? ???? ??).
??? ??? ??? GPT-4? ?? ?? ?? ???? ???? ?? ? ?? ??? ???? RACAR ????? ???? 10? ??(? 100?? ?? ? ?? ?)? ?? ?? ??? ??????. ???? ??? ?? ?? ?? ?? ?? ?? LLM? ???? ??? ? ????.
??: GPT-4 ?? ??? ??? ?? ?? ?? Spearman ? Pearson ????.
SciQAG ????? ??
? ??? ?? ??, ??, ???, ??? ? ??? WoS(Web of Science) ?? ??? ???????? 24? ??? ?? ? 22,743?? ?? ?? ??? ??????. , ??? ? ?? ???? ?? ?? ???? ?? ?? ??? ???? ?? ??? ???.
?? ?? LLM? ?? ???? QA ???? ???? ?? ????? ?? ????? 426?? ??? ???? ???? ???? GPT-4? ???? 4260?? ?? QA ?? ??????.
??? QA ???? ???? ??? ??? ?? ??? ???? ? 227,430?? QA ?(?? QA ? ??)? ???????. ? ?????? 50?? ??(? 1,200? ??)? ????, ??? ? QA ?? RACAR ??? ???? ?? GPT-4? ?????, ?? ??? 3?? ?? QA ?? ??? ??? ???????.
??? QA ?? ???? ?? ?? ??? ???? ??? ?? ??? ??? ?? ?? ? ?? ?? ????? ?? ??? ?????.
SciQAG-24D ???? ??? ??
?? ???? ????? ?? ?? QA ???? ??? ?? SciQAG-24D? ??????. ???? ?? ???? 21,529?? ??? 179,511?? QA ?? ???? ???, ???? ??? ???? ??? ?????. 1,199?? ??? 8,531?? QA ?.
??? ??? ??? ??? ???? 99.15%? ?? ???? ?? ???, ??? 87.29%? 0.3 ??? ???? ???, ??? ?? ??? 78.26%? ???? ??? ??????.
? ??? ??? ?? ?????. ?? ??? LLM? ?? ???? ??? ??? ??? ???? ? ??? ? ????. ??? ??? ?? ?? ?? ?? ??? ?? QA ??? ?? LLM? ??? ???? ? ??? ? ????. . ??? ??? ??? ?? ??? ?? ??? ?? ??? ????? ??? ? ????.
??: SciQAG-24D ?????? ?? ? ????? ??? ????? ?? ??.
?? ??
????? ??? ?? ?? ? ??? ?? ??? ?? ??? ???? ?? ??? ??? ???? ?? ???? ??? ??????.
??? ??
????? SciQAG-24D? ??? ?? ? ??? ???? 5? ??? ??? ??? ??????. ? ? ? ?? ?? ?? LLM? LLaMA1(7B) ? LLaMA2-chat(7B)?? ???? ?? ?? LLM???.
API? ?? ??: GPT3.5(gpt-3.5-turbo), GPT-4(gpt-4-1106-preview) ? Claude 3(claude-3-opus-20240229). ? ???? ????? 1,000?? ??? ??????, ? ??? CAR ????(RACAR ?????? ?????? ?? ???? ??? ???)?? ???? ??? ?? ??? ??? ??? ??? ??????.
???? ? ? ??? ?? ?? ? GPT-4? ???(4.90)? ???(4.99)?? ?? ?? ??? ?? ??, Claude 3? ???(4.95)?? ?? ?? ??? ?????. GPT-3.5? ?? ?? ???? GPT-4? Claude 3? ?? ???? ? ?? ?? ??? ?????.
?? LLaMA1? ? ?? ?? ???? ?? ?? ??? ?????. ????? LLaMA2 ?? ??? GPT ???? ?? ??? ??? ???? ?? ???? ?? LLaMA1? ?? ?? ???????. ??? ??? ??? ??? ? ?? ??? LLM? ??? ??? ????, ?? ?? ??(?: LLaMA2-chat)? ?? ???? ??? ??? ??????.
??: SciQAG-24D? ?? ?? ??? ? ?? ?? ???(LLAMA1-QA)
?? ?? ??(fine-tuning set)
????? ??? ??- ?? ?? LLaMA1-QA? ?? ?? SciQAG-24D? ?? ??? ?? ?? ??? ?????. ? ?? ??? ?? ????? SciQAG-24D? ????? ?? ??? ??? ????? ?? ???? ?? ?? ???? ??? ? ??? ??????.
(a) ??? ?? SciQAG-24D ??? ??? LLaMA-QA ? ?? LLaMA1 ?? ??.
? ???? ? ? ??? LLaMA1-QA? ??? ?? LLaMA1? ?? ?? ???????(??? 13% ??, ??? ? ??? 30% ?? ??). ?? LLaMA1? SciQAG-24D? ?? ?????? ??? ??? ??? ??? ????? ?? ??? ??? ?????? ?????.
(b) ??? MCQ ????? SciQ? ?? ?? ?? ??.
?? ?? ? ?? ?? LLaMA1-QA? LLaMA1(+1%)?? ?? ? ???? ?????. ??? ??? ?? ??? ??? ?? ?? ??? ???????. ?, ?? ??? ? ?? ??? ??? LLaMA1? 4.1%?? LLaMA1-QA? 1.7%? ??????.
(c) ??? ?? ??? ?? ?? ?? ?? ??.
?? ??? ?? ?? ???? F1-score, ?? ???? MAE, ?? ???? KL divergence? ?????. ?? ??? ? ? ??? LLaMA1-QA? ?? ???? LLaMA1 ??? ?? ?? ???????.
?? ?? ?? ?? ??? ?? ??? ???? MAE? 463.96?? 185.32? ??????. ??? ??? ?? ?? QA ?? ???? ??? ??? ???? ???? ??? ??? ???? ????? ?? ??? ??? ???? ? ??? ?????.
???? LLM? ??? ?? ??? ??? ?? ?? ??? ??? ? ?? ????? ?? ????? ??? ???? ??? ?? ? ????. ?? ?? ?? ? ????? LLaMA1-QA? MODNet(0.3327)? ?? ???? ??? ??? ??? AMMExpress v2020(0.4161)? ??????.
??? ???? LLaMA1-QA? ? ?? ??(0.3198)?? ??? ?????. ??? ??? LLM? ?? ?? ???? ? ???? ??? ??? ?????.
??: SciQ ? ?? ???? LLaMA1 ? LLaMA1-QA? ?? ?? ??(M? ???, C? ??, R? ??, T? ??? ???)
?? ? ??
( 1) SciQAG? QA ?? ???? ???? ?? RACAR ????? ???? ?? ???? QA ?? ???? ?? ??????, ??? ??? ?? ??? ?? ??? ?? ?? QA ???? ????? ??? ? ????.
(2) ?? SciQAG-24D?? ?? 188,042?? QA ?? ???? ???? ?? ?? ?? QA ??? ??? ??????. ?? ??? LLM? ?? ???? ? ????, ??? ??? ??? ??? ? ?? QA ???? LLM? ??? ?????.
SciQAG-24D ??? ???? ?? LLM? ?? ?? ??? ???? SciQAG-24D ?? ???? LLaMA1? ?? ???? LLaMA1-QA? ?????. ??? ?? ??? ?? ?? ?? ??? ??? ?? ?????.
(3) ??? ??? LLM? ?? ??? ???? ??? LLaMA1-QA? ??? ?? ?? ??? ?? ???? ??? ??? ? ????. ?? SciQAG-24D? ???? ???? ???? ??? QA ???? ?? ????? ???? LLM? ??? ?? ?? ? ?? ??? ???? ? ??? ?????.
? ??? ?? ??? ?? ??? ????? ??? ?? ?? ???? ? ?? ???? ???? ?? UNSW, Argonne, University of Chicago ? ?? ??? ???? SciQAG ?????? ??????.? ?? ?????. ??? ??? PHP ??? ????? ?? ?? ??? ?????!
? AI ??
Undress AI Tool
??? ???? ??
Undresser.AI Undress
???? ?? ??? ??? ?? AI ?? ?
AI Clothes Remover
???? ?? ???? ??? AI ?????.
Clothoff.io
AI ? ???
Video Face Swap
??? ??? AI ?? ?? ??? ???? ?? ???? ??? ?? ????!
?? ??
??? ??
???++7.3.1
???? ?? ?? ?? ???
SublimeText3 ??? ??
??? ??, ???? ?? ????.
???? 13.0.1 ???
??? PHP ?? ?? ??
???? CS6
??? ? ?? ??
SublimeText3 Mac ??
? ??? ?? ?? ?????(SublimeText3)
'Defect Spectrum'? ?? ?? ??? ??? ???? ???? ? ??? ???? ?? ?? ??? ??? ?????.
Jul 26, 2024 pm 05:38 PM
?? ????? ??? ?? ??? ?? ??? ???? ??? ?? ??? ?? ???? ????? ????? ???. ??? ?? ?? ?? ?????? ?? ??? ??? ???? ???? ???? ??? ??? ?? ??? ?? ?? ????? ??? ??? ? ?? ???. ? ??? ???? ?? ??? ???????? Simou Technology? ??? ?? ???? ?? ??? ?? ???? ?????? ??? ??? ??? ???? "DefectSpectrum" ??? ??? ????? ??????. ? 1?? ? ? ???, ?? ?? ??? ??? ???? "DefectSpectrum" ??? ??? ?? ?? ?? ??(5438?? ?? ??)? ?? ??? ?? ??(125?? ?? ????)? ?????.
NVIDIA ?? ?? ChatQA? ?? 2.0?? ????? ???? ??? 128K? ???????.
Jul 26, 2024 am 08:40 AM
?? LLM ????? ??? ?? ?? ???? ?????. Llama-3-70B-Instruct, QWen2-72B-Instruct, Nemotron-4-340B-Instruct, Mixtral-8x22BInstruct-v0.1 ?? ?? ? ????. ??? ???. ??? GPT-4-Turbo? ???? ?? ?? ??? ???? ??? ??? ??? ???? ???? ??? ??? ??? ????. ?? ?? ??? ????? ? ??? ?? DeepSeek-Coder-V2, ?? ?? ??? ?? InternVL? ?? ?? ??? ???? ?? ?? ??? ??? ???????.
??? ?? ?? ???? ???? ???? ?? ??? ???? ??? ??? PhAI? Science? ???????.
Aug 08, 2024 pm 09:22 PM
Editor |KX ????? ??? ???? ? ? ???? ????? ???? ?? ???? ??? ?? ??? ???? ?? ?? ???? ??? ? ????. ??? ?? ? ??? ?? ?? ??? ????? ??? ???? ?? ??? ???? ????. ??? ???? ??? ????? ?? ?? ??? ???? ?? PhAI?? ??? ??? ??????. ??? ?? ?? ?? ??? ?? ???? ?? ?? ???? ???? ??? ??? ???? ??? ?? ?? ?? ??? ? ????. ??? ? ??? ??? ??? ?? ??? ??? ? 2????? ???? ?? ??? ??? ? ??? ?????. ?? ?? ????? ??? ? ?? ???? 10~20%? ???? ??, ??? ??? ???
Google AI? IMO ?? ????? ???? ???? ??? ?? ?? AlphaProof? ?????? ?? ??? ?? ???????.
Jul 26, 2024 pm 02:40 PM
AI? ?? ?? ?????? ? ?? ??? ?? ????. ???? Google DeepMind? ?? ??? AI? ???? ?? ?? ?? ????? IMO? ?? ??? ???? ??? ????? ??? ??? ? ?? ? ??????. ?? ? ? ?? IMO ???? ???, ???, ???, ?? ? 6? ??? ????. ??? ??? ????? AI ???? 4??? ?? 28?? ?? ??? ??? ????. ?? ? UCLA ?? ??? ??? ??(Terence Tao)? ?? 100? ??? AI ?? ?????(AIMO Progress Award)? ?????, ???? 7? ??? AI ?? ?? ??? ? ???? ????. IMO?? ??? ??? ????. ?? ???? ?? ??? ?? IMO??, ??? ?? ??, ??? ?? ??, ?? ?????? ???.
?? ??? ?? ??? ????? ??? ?? ?? ???? ? ?? ???? ???? ?? UNSW, Argonne, University of Chicago ? ?? ??? ???? SciQAG ?????? ??????.
Jul 25, 2024 am 06:42 AM
??? |ScienceAI ?? ??(QA) ??? ??? ??? ??(NLP) ??? ???? ? ??? ??? ???. ??? QA ??? ??? ??? ?? ???? ? ??? ? ?? ?? ??? LLM(?? ?? ??)? ??, ?? ??? ??? ???? ???? ??? ????? ???? ??? ??? ? ????. ?? ??, ??, ??? ? ?? ??? ???? ???? QA ??? ??? ?? ??? ??? ??? ???? ??? ? ?? ??? ????. ??, ??? ??? ??? ???? ???? ??? ????? ???? ??? ??? ?? ?? ??? ???? ??? ??? ?? ?? ??? ??? ???? ? ????. ?? ?? ??? Q&A?
SK????? 8? 6? 12? HBM3E, 321? NAND ? AI ?? ???? ????.
Aug 01, 2024 pm 09:40 PM
1? ? ??? ??? ??? SK????? ??(1?) ??? ???? ?? 8? 6??? 8??? ?? ?????? ??????? ??? ??? ??? ??? ?? FMS2024? ????? ???. ?? ??? ??? ??. ???? ??? ?? ??? ???? ?? ???, ???? ?? NAND ????? ???? ? ??? ??? ??(FlashMemorySummit)??? ?? ??? ? ???? ??(FutureMemoryandStorage) ??? ??? ?? ??? ? ???? ??(FutureMemoryandStorage)?? ??? ??????. DRAM ? ???? ????? ? ?? ????? ?????. SK????? ??? ??? ???
PRO | MoE ??? ?? ??? ? ???? ??? ??????
Aug 07, 2024 pm 07:08 PM
2023??? AI? ?? ?? ??? ?? ?? ??? ???? ??. ??? AI? ???? ??, ???? ? ?? ??? ??? ??? ????? ???? ??. ???? ?? ??? AI ?? ??? ?? ????? Transformer? ??? ?????? MoE(Mixed of Experts) ????? ???? ? ?? ?? ??? ???? ??? ???? ? ??? ?????? ?? ?? ??(LVM)? ?? ?? ???? ??? ???? ? ? ????? ...?? 6?? ?? ??? ? ???? 2023 PRO ?? ?????? ? ??? ?? ??? ?? ??? ?? ?? ??? ???? ??? ???? ??? ?? ??? ??? ?? 10?? ?? ??? ??????. ?. ?????. ? ??? 2023? 50??? ?? ????.
???? 60.8%? ????. Transformer? ???? ? Zhejiang University? ??? ??? ?? ??? Nature ??? ???????.
Aug 06, 2024 pm 07:34 PM
Editor | KX ???? ?? ?? ? ?? ???? ??? ????, ???? ??? ??? ?? AI? ?? ? ?? ???? ????. ?? AI ??? ??? ????? ??? ???? ??????. ??? ?? ??? ?? ???? ??? ??? ??? ??? ???? ???? ?? ??? ?????. ?? ??? ?? Zhejiang University? Hou Tingjun ?? ?? ?? ??? ??? ?? ??? ?? ???? ????? ?? ?? ???? ????? ???? ??? ???? ??? ?? ??????. ??? ???? ??? ??? ??? ?? ?? ??? ?? EditRetro? ?????. ???? ??? ?? ? ??? ?? ???? ??? ?? USPTO-50 K?? 60.8%? ?? 1 ???? ??? ??? ???? ??? ??????.
