전체 글 (75) 썸네일형 리스트형 인공지능을 위한 선형대수(주재걸 교수님) 특이값 분해1 Check - SVD는 무엇의 약자인가? - SVD의 basic form은? - SVD에서 U와 V는 각각 어떤 행렬인가? A의 basis를 제공하는 이유는? - SVD의 reduced form은? - Orthonormal matrix의 inverse는 무엇인가? - SVD를 V와 U의 각 column vectors(u_i, v_i)에 관한 식으로 나타내면? 인공지능을 위한 선형대수(주재걸 교수님) 고유값 분해와 선형 변환 Check - Eigendecomposition이란? - Eigendecomposition을 이용한 선형 변환을 3단계로 나타낼 때, 각 단계의 의미는? - Eigendecomposition이 왜 선형 변환의 계산을 간소화 하는가? 인공지능을 위한 선형대수(주재걸 교수님) 특성방정식, 대각화 Check - Characteristic equation이란? - Characteristic equation을 풀어서 얻을 수 있는 것은? - Squared matrix의 column vectors가 linearly dependent하다는 것은 non-invertible 하다는 것인가? 이유는? - Diagonalization of A의 대각 행렬 D에 대한 식은? - 인공지능을 위한 선형대수(주재걸 교수님) 고유벡터와 고유값, 영공간과 직교여공간 Check - Eigenvector와 Eigenvalue의 정의는? - Linear system의 관점에서 Eigenvector와 Eigenvalue의 의미는? - Null space의 정의는? - Null space와 row vectors의 관계는? - Null space는 subspace인가? - Eigenspace는 basis vectors를 가지는가? - Orthogonal complement란? - Row space, 전체 공간, null space의 dimension간의 관계는? Training GANs with Limited Data Submission : 2020 Paper Link : arxiv.org/abs/2006.06676 Keywords Data efficient GAN training ADA(Adaptive Discriminator Augmentation) Non-leaking augmentation Discriminator overfitting Contribution ADA라는 augmentation 방법 제시, 10배 적은 데이터로도 styleGAN2와 대등한 성능을 보임. 적은 양의 데이터로 GAN을 학습시키는 다양한 방법들을 비교, 분석하고 최적의 방법 제시함. Introduction Modern GAN에서 좋은 결과를 얻으려면 100K~1000K의 데이터가 필요함. 데이터가 적으면 discriminator ove.. 확률 및 통계(한양대 이상화교수님) lec7 : 여러가지 이산확률분포 Check - Chevyshev Inequality란? - Bernoulli Distribution이란? - Binomial Distribution이란? - Geometric Distribution이란? - Geometric Distribution에서의 forgetfulness란? Error를 최소화하는 x_hat은 평균이다. 그 때, error가 특정 값 이상일 확률을 위와 같이 나타낼 수 있다. 유도는 위와 같다. Binary random variable에 대한 확률 분포이다. 이항 분포의 평균과 분산의 유도이다. 이항 분포의 RV는 n번의 베르누이 시행에서의 성공 횟수이다. 미분을 이용해서 유도하면 더 쉽다. Geometric Distribution에서의 RV는 첫 번째 성공 까지의 베르누이 시행 .. Learning How to Learn : Chunking - 청크란 서로 연관이 있는 정보의 집합이다. 하나의 청크로 묶인 뉴런들은 많은 경우 동시에 fired 된다. - 전문가가 되기 위한 첫 걸음은 청크를 형성하는 것이다. - 정보를 하나로 묶는 것은 다르게 말해서 정보를 압축한다고 생각할 수 있다. 우리의 단기 기억은 한 번에 4개의 정보를 담을 수 있는데, 이 4개를 하나의 청크로 묶으면 3개의 공간이 비게 된다. - 단순 암기가 아니라 이해한 청크는 다른 청크들과 잘 맞물릴 수 있다. - 청크를 만들기 위해서는 focused mode로 들어가서 집중, 이해, 연습의 단계를 거쳐야 한다. - 스트레스를 받거나 화가 났을 때는 청크를 형성하는 능력이 떨어지게 된다. - 양 방향에서의 학습이 모두 이루어져야 한다. - Bottom up learning은 해.. Learning How to Learn : What is Learning? 뇌는 focused mode와 diffuse mode를 오간다. 익숙한 분야에 대한 뉴런들은 긴밀히 연결되어 있다. 이게 focused mode이다. 생각을 많이 할수록 연결이 강화된다. 해본적 없는 창의적인 발상을 위해서는 diffuse mode도 사용해야 한다. 이 두 모드를 왔다갔다 하면서 뉴런 연결이 강화된다. 마치 운동을 해서 근력을 기르는 것과 같이, 하루 아침에 되는 것이 아니라 점진적으로 능력을 키워 나가는 것이다. 살바도르 달리나 에디슨은 이완된 편안한 상태에서 사색에 잠겨 diffuse mode에 있다가 focused mode로 전환하는 등의 방법을 많이 사용했다. 우리가 새로운 일을 할 때, 불편함을 느끼게 되고 이것은 일정 시간이 지나면 사라지게 된다. 25분간 타이머를 맞추고, 방.. 이전 1 2 3 4 5 6 ··· 10 다음
