'Learning' 태그의 모든 글
본 논문은 터널 결함 검사를 위한 새로운 데이터셋을 소개하며, 이는 딥러닝 모델의 학습과 성능 개선에 중요한 역할을 합니다. 터널은 교통 인프라의 주요 구성 요소로, 안전성을 유지하기 위해 정기적인 점검이 필수적입니다. 하지만 전통적인 수동 검사 방법은 시간 소모가 많고 비용이 높으며 주관적이어서 제한점이 있습니다. 모바일 매핑 시스템과 딥러닝의 발전으로 자동화된 시각 검사가 가능해졌지만, 이를 위한 충분한 데이터셋이 부족하여 그 효과가 제한되어 왔습니다. 본 논문에서 소개하는 새로운 데이터셋은 세 가지 다른 종류의 터널 라이닝에
본 논문은 고주파 신호 학습의 어려움을 해결하기 위해 Qonvolutions이라는 새로운 접근법을 제시합니다. 이 방법은 기존의 신경망이 고주파 정보를 처리하는 데 어려움을 겪는 문제를 해결하고자 저주파 신호와 쿼리(예: 좌표)를 합성하여 고주파 신호를 더 잘 학습할 수 있게 합니다. Qonvolutions은 간단한 방법임에도 불구하고, 1D 회귀, 2D 초해상도, 2D 이미지 회귀 및 새로운 시점 합성(NVS)과 같은 다양한 작업에서 우수한 성능을 보여줍니다. 특히 NVS에서는 가우시안 스팟팅과 결합하여 실제 복잡한 장면에서도 라
본 논문은 교육 기술 분야에서 ‘학습 목표와 교육 자료 간 정렬(alignment)’이라는 핵심 문제를 자동화하려는 시도로서, 텍스트 임베딩 모델을 활용한 프레임워크를 제시한다. 연구는 크게 세 단계로 구성된다. 첫 번째 단계에서는 인간이 직접 만든 교육 자료를 기준 데이터셋으로 활용해 여러 LLM 기반 임베딩 모델(Voyage, OpenAI‑Ada 등)을 비교 평가하였다. 여기서 ‘정렬’은 학습 목표와 자료 내용 사이의 의미적 유사성을 수치화한 점수로 정의되며, 인간 평가자들의 라벨링을 정답으로 삼아 모델의 정확도를 측정하였다.
이 논문은 연방학습(Federated Learning, FL)에서 발생하는 데이터 이질성 문제를 해결하기 위한 새로운 접근법인 FLFA(Federated Learning with Feedback Alignment)에 대해 설명하고 있습니다. 연방학습은 클라이언트 간의 데이터 프라이버시를 보장하면서도 협업 학습을 가능하게 하는 기술입니다. 그러나 각 클라이언트의 데이터가 독립적이고 동일한 분포(IID)가 아닌 경우, 즉 비IID인 경우에는 로컬 모델과 전역 모델 간에 수렴이 어려워지며 이를 로컬 드리프트 현상이라고 합니다. FLFA는
이 논문은 수직연방학습(VFL)에서 발생하는 특징 추론 공격 문제를 해결하기 위한 새로운 방어 메커니즘인 PRIVEE를 제안하고 있습니다. VFL은 서로 다른 데이터셋을 가진 여러 조직들이 공동의 사용자 샘플에 대해 학습할 수 있는 방법으로, 특히 개인 정보 보호가 중요한 분야에서 유용하게 활용될 수 있습니다. 그러나 이러한 협업 과정에서는 공격자가 모델의 예측 확률을 이용해 다른 참여자의 데이터를 재구성하는 특징 추론 공격에 노출될 위험이 있습니다. PRIVEE는 이 문제를 해결하기 위해 신뢰도 점수를 암호화하여 공유함으로써, 공
본 논문은 현대 대형 언어 모델(LLMs)의 의식 가능성에 대한 철학적이고 과학적인 접근법을 제시하고 있습니다. 저자는 증명 불가능성과 비자명성을 충족하는 이론이 있어야 한다는 요구 사항을 강조하며, 이를 통해 현대 LLMs의 의식 가능성을 검증합니다. 논문은 기존의 인과 구조와 기능에 기반한 의식 이론들이 이러한 요구 조건을 만족하지 못한다는 점을 지적하고 있습니다. LLMs는 입력/출력 기능 측면에서 특정 시스템들과 동등하기 때문에, 그들에 대한 의식 가능성은 증명 불가능성과 비자명성을 충족하는 이론이 존재해야 합니다. 그러나
이 논문은 대형 언어 모델(LLMs)의 한계를 극복하기 위해 인간 학습 과정에서 영감을 얻는 새로운 접근법을 제안하고 있습니다. LLMs은 큰 규모의 데이터로부터 일반적인 패턴을 추출하는 데 탁월하지만, 희귀하거나 저자원 상황에서는 이러한 패턴이 데이터 내에 충분히 나타나지 않아 예측 능력이 제한됩니다. 이 문제를 해결하기 위해 논문은 두 가지 메커니즘을 통합하는 인간 영감 학습 프레임워크를 제안합니다: 첫 번째로, '명시적 기록'은 원인 결과 또는 질문 해결책 관계를 상징적 메모리에 저장하여 단일 또는 불규칙한 경험에서도 지속적인
이 연구는 미국에서 폐암(LC) 사망률 예측에 기계학습 모델의 적용을 통해 얻은 결과를 보고하고 있다. 특히, 랜덤 포레스트(RF), 그래디언트 부스팅 회귀(GBR), 그리고 선형 회귀(LR) 세 가지 모델을 사용하여 LC 사망률 예측 성능을 평가하였다. 연구에서 RF 모델이 GBR과 LR보다 우수한 성능을 보여주었으며, R squared 값 41.9%, RMSE 12.8을 달성했다는 점은 주목할 만하다. SHAP 분석을 통해 흡연률이 가장 중요한 예측 변수로 나타났고, 이어 집값 중앙값과 히스패닉 인구 비율이 중요하게 작용한다는
이 논문은 최근 인공지능 모델이 복잡한 개념을 어떻게 내부 표현에 담는지를 탐구하는 기계적 해석(mechanistic interpretability) 분야의 핵심 문제에 접근한다. 기존 연구들은 신경망이 의미 있는 개념을 고차원 표현 공간의 선형 방향으로 저장하고, 여러 개념이 동일한 뉴런 집합에 겹쳐서(superposition) 나타난다고 주장한다. 이러한 현상을 해소하기 위해 연구자들은 희소 사전학습(Sparse Dictionary Learning, SDL)이라는 방법론을 도입했으며, 여기에는 희소 자동인코더(sparse aut
본 논문은 지진공학 분야에서 현장별 강진 기록을 인공적으로 생성할 수 있는 새로운 데이터‑드리븐 모델을 제시한다는 점에서 큰 의미를 가진다. 기존의 강진 합성 방법은 주로 스펙트럼 기반 혹은 물리‑기반 시뮬레이션에 의존했으며, 현장 특성을 충분히 반영하기 위해서는 복잡한 파라미터 튜닝이 필요했다. 반면 본 연구는 시간 영역에서 직접 가속도 신호를 다루는 TimesNet‑Gen을 도입함으로써, 현장별 고유의 “잠재적 병목”(latent bottleneck)이라는 작은 차원의 임베딩을 통해 현장 특성을 압축하고 재현한다. 이는 현장마다
본 논문은 강화학습(RL)에서 핵심적인 보상 설계 문제를 새로운 관점에서 해결한다. 전통적인 PRM은 단계별 정답 레퍼런스나 인간 주석에 의존해 학습 데이터를 구축한다. 그러나 이러한 데이터는 비용이 많이 들고, 특히 수학·과학·코드와 같이 정답이 복잡하거나 존재하지 않을 때는 실용성이 떨어진다. SPARK는 이 한계를 “생성‑검증” 루프를 통해 극복한다. 첫 번째 단계에서 생성기 모델은 프롬프트에 따라 다채로운 풀이 경로를 생성한다. 여기서 중요한 점은 다양성을 확보하기 위해 온도 조절, 샘플링 기법 등을 활용해 다수의 후보 풀이
이 논문은 최근 각광받고 있는 ‘신경 붕괴(Neural Collapse, NC)’ 현상을 긴 꼬리 데이터 분류 문제에 적용함으로써, 기존 방법론이 놓치고 있던 핵심적인 정렬 문제를 새롭게 조명한다. NC는 학습이 진행될수록 클래스별 특징 평균(feature means)과 최종 선형 분류기의 가중치가 서로 정렬되고, 전체 클래스가 단순체 등각 긴밀 프레임(simplex ETF) 구조를 이루는 현상이다. 이 구조는 클래스 간 각도가 동일하고, 각 클래스의 특징이 서로 정규 직교하는 최적의 기하학적 배치를 제공한다는 점에서 이론적·실용적
Monte Carlo형 신경 연산자(MCNO)는 기존 신경 연산자 연구에서 두드러진 두 가지 한계를 동시에 해결하려는 시도로 볼 수 있다. 첫 번째는 Fourier Neural Operator(FNO)와 같은 스펙트럼 기반 방법이 전제하는 주기성·평행이동 불변성 가정이다. 이러한 가정은 정규 격자나 주기적 경계조건을 갖는 문제에선 효율적이지만, 복잡한 지오메트리·비주기적 경계·비균일 격자에서는 적용이 어려워진다. MCNO는 커널을 임의의 점 집합 위에 정의하고, 이 점들을 Monte Carlo 샘플링으로 선택함으로써 스펙트럼 가정을
This paper discusses a method for improving the learning efficiency of deep neural networks by utilizing structural information from program code. The authors aim to enhance the effectiveness of machine learning in analyzing and optimizing complex programs. Traditional methods often struggle with ca
: 본 논문은 템플릿 기반 학습 모델을 통해 새로운 관찰 데이터를 이해하는 방법에 대해 설명하고 있다. 이 모델은 주로 관찰 데이터 간의 유사성 탐색과 비교를 통해 새로운 개념을 학습하고 추상화하는데 초점을 맞추고 있다. 1. 템플릿 기반 학습 모델의 구성 요소 기하학적 묘사 : 이 모델은 관찰 데이터를 기하학적으로 묘사하는 방식을 사용한다. 이를 통해 객체의 경계와 형태를 정확하게 파악할 수 있다. 인간 시각 신경 시스템에 영감 받은 설명자 : 인간의 시각 인지 과정에서 중요한 역할을 하는 요소들을 모델링하여, 더 정교한 데이터
검색어를 입력하세요