DERSİN GENEL BİLGİLERİ |
Ders Kodu | Ders Adı | Yıl | Yarıyıl | Teorik | Pratik | Kredi | AKTS |
60610METOS-YZM0389 | Derin Öğrenme | 4 | Bahar | 2 | 2 | 3 | 5 |
Dersin Türü: | Seçmeli Ders IV |
Dersin Düzeyi: | Lisans TYYÇ:6. Düzey QF-EHEA:1. Düzey EQF-LLL:6. Düzey |
Dersin Öğretim Dili: | Turkish |
Dersin Ön/Yan Koşulu: | Yoktur |
Dersin Veriliş Şekli: | Yüz yüze |
Dersin Koordinatörü: | Dr. Öğr. Üyesi ENVER AKBACAK |
Dersin Öğretim Eleman(lar)ı: |
|
Dersin Kategorisi: |
BÖLÜM II: DERSİN TANITIMI |
Dersin Amacı: | 1. To familiarize students with Deep Learning Fundamentals. 2. To Introduce concepts for image, video and text recognition. 3. To teach students featured deep learning practices by a project. Textbook: http://neuralnetworksanddeeplearning.com/ and Deep Learning with Python (François Chollet) Software Tensorflow’s Keras Tools: Google’s Colab A long-term project will be assigned to students. The project reports will be prepared on any word processor in the following format. Midterm Exam 20% Final Exam 50% Projects 30% |
Dersin İçeriği: | Fundamentals What is deep learning, layers, learning, wieghts, loss functions, optimizers. Neural Networks Perceptrons, sigmoid neurons, learning with gradient descent and momentum based gradient descent. Neural Networks Back propagation. Cost Functions, cross entropy, softmax, regularization, wieght initialization, early stopping, batch size, tanh activation, dropout, normalization, relu layers, pooling layers. Mathematical fundamentals of Neural Networks Getting Started with Neural Networks Fundamentals of Deep Learning Supervised, unsupervised, selfsupervised and reinforcement learnings, train/validation/test splits allocations, vanishing gradient descent problem, overfitting and underfitting. Convolutional Neural Networks Fundamentals Pretrained models Fine-tuning Convolutional Neural Networks Feature extraction Python generators Visualizing intermediate activations and filters Class activation maps Encoder – Decoder Models Recurrent Neural Networks LSTMs, Combining CNN-LSTM models Video Processing 3D CNN, Keras functional API, callbacks Project Presentations |
Projects A long-term project will be assigned to students. The project reports will be prepared on any word processor in the following format. Page 1. • Project title • Student's name • Date due • Abstract (min 1/2 page) Page 2. Technical presentation. This section should include implemented technics and equations. (One page) Page 3 Discussion of findings. Significant findings in terms of the project objectives and reference any images generated. (Min two pages) Results. Includes all the images generated in the project. Number images individually so they can be referenced in the preceding section. Appendix. Computer codes with explanations written by the student. Projects not conform to the requested format may be grounds for rejection. |
Bilgi (Kuramsal ve/veya olgusal bilgi olarak tanımlanmıştır.) | ||
Beceriler (Bilişsel ve/veya uygulama becerileri olarak tanımlanmıştır.) | ||
Yetkinlikler ("Bağımsız Çalışabilme", "Sorumluluk Alabilme", "Öğrenme", "İletişim ve Sosyal" ve "Alana Özgü" yetkinlikler olarak tanımlanmıştır.) |
Hafta | Konu | ||
Ön Hazırlık | Pekiştirme | ||
1) | Fundamentals What is deep learning, layers, learning, wieghts, loss functions, optimizers. | ||
2) | Neural Networks Perceptrons, sigmoid neurons, learning with gradient descent and momentum based gradient descent. | ||
3) | Neural Networks Back propagation. | ||
4) | Neural Networks Cost Functions, cross entropy, softmax, regularization, wieght initialization, early stopping, batch size, tanh activation, dropout, normalization, relu layers, pooling layers. | ||
5) | Mathematical fundamentals of Neural Networks | ||
6) | Getting Started with Neural Networks | ||
7) | Fundamentals of Deep Learning Supervised, unsupervised, selfsupervised and reinforcement learnings, train/validation/test splits allocations, vanishing gradient descent problem, overfitting and underfitting. | ||
8) | Convolutional Neural Networks Fundamentals Pretrained models Fine-tuning | ||
9) | Convolutional Neural Networks Feature extraction Python generators Visualizing intermediate activations and filters Class activation maps | ||
10) | Encoder – Decoder Models | ||
11) | Recurrent Neural Networks LSTMs, Combining CNN-LSTM models | ||
12) | Video Processing 3D CNN, Keras functional API, callbacks | ||
13) | Project Presentations | ||
14) | Project Presentations |
Ders Notları / Kitaplar: | Hafta Konular Ders Kitabı Değerlendirme ve İlave Bilgiler 1 Derin Öğrenmeye Giriş Derin öğrenme temel kavramlar, Gerekli Matematiksel Tanımlamalar, Uygulamalarda kullanılacak arayüz ve yazılımların tanıtım ve kurulum uygulamalarını içermektedir. A 2 Yapay Sinir Ağları Temel Kavramlar Logistik Regresyon(LR), LR Cost Fonksiyonu, LR Gradient Descent, LR türev (derivatives) kavramlarını ve uygulamalarını içermektedir. A 3 Yapay Sinir Ağları (ANN) ANN aktivasyon fonksiyonları ve türev(derivative) hesaplamalarını ve ANN derin ağların oluşturulması içermektedir. A Projelerin Atanması 4 Yapay Sinir Ağları(ANN) ANN İleri-Geri Yayılım (Forward-Backward Propagation) tanıtım ve uygulamalarını içermektedir. A-B 5 Derin Öğrenme Stratejileri Derin Öğrenmede Bias Variance Kavramlarını, Performans Metriklerini ve Veri setlerinin Eğitim-Validasyon-Test Kümelerine ayrılma stratejilerini içermektedir. A-B 6 Derin Öğrenme Optimizasyon Parameterleri Regularization, Dropout, Normalization, Vanishing Gradient kavramlarını ayrıca Gradient Descent, Adam ve Rmsprop Optimizasyon Algoritmaları ile Learning Rate tanımlamaları ile Uygulamalarını içermektedir. A-B 7 Evrişimsel Sinir Ağları(CNN) Temelleri CNN matematiksel tanımlamalarını, Padding, Stride tanımlamaları ile çıkış haritalarının hesaplamalarını ayrıca temel CNN yapısı ve uygulamalarını içermektedir. B İlk Proje İncelemeleri 8 VIZE SINAVI 9 Evrişimsel Sinir Ağları(CNN) Modelleri-1 ImageNet Large Scale Visual Recognition Challenge (ILSVRC) ‘de başarı sağlayan Alexnet VGG-16, VGG-19 model yapılarının incelenmesini ve Uygulamalarını içermektedir. B 10 Evrişimsel Sinir Ağları(CNN) Modelleri-2 ImageNet Large Scale Visual Recognition Challenge (ILSVRC) ‘de başarı sağlayan Resnet, Inception Networks, Mobilenet model yapılarının incelenmesini ve Uygulamalarını içermektedir. B 11 Encoder – Decoder Modeller Autoencoder- Decoder modeller ve U-NET yapılarının incelenmesini ve Uygulamalarını içermektedir. PROJE SUNUMLARI-1 B İkinci Proje İncelemeleri 12 Tekrarlayan Sinir Ağları (RNN) Long Short-Term Memory (LSTM) Kavramları, CNN-LSTM Uygulamalarını içermektedir. PROJE SUNUMLARI-2 A-B İkinci Proje İncelemeleri 13 Evrişimli Sinir Ağları ile Nesne Tespiti YOLO ile nesne tespiti için tanımlamalar ve uygulamalarını içermektedir. PROJE SUNUMLARI-3 A-B İkinci Proje İncelemeleri 14 Final Sınavı |
Diğer Kaynaklar: | Textbook: http://neuralnetworksanddeeplearning.com/ Deep Learning with Python (François Chollet) Software Tensorflow’s Keras Tools: Google’s Colab |
Etkisi Yok | 1 En Düşük | 2 Düşük | 3 Orta | 4 Yüksek | 5 En Yüksek |
Program Öğrenme Çıktıları | Katkı Oranı (1-5) | |
1) | Matematik, fen bilimleri, bilgisayar bilimleri ve yazılım mühendisliği ile ilgili mühendislik konularında yeterli bilgi birikimine sahiptir; bu alanlardaki kuramsal ve uygulamalı bilgileri yazılım mühendisliği problemlerinin çözümü için birlikte kullanır ve uygular. | |
2) | Alanı ile ilgili temel bilim konularındaki kuramsal ve uygulamalı bilgileri yazılım mühendisliği problemlerinin çözümü için birlikte kullanır ve uygular. | |
3) | Yazılım mühendisliği uygulamalarını analiz eder, modeller, gerçekçi kısıtlar ve koşullar altında belirli gereksinimleri karşılayacak şekilde tasarlar ve geliştirir; bu amaçla uygun yöntemleri, araçları ve teknolojileri seçer ve kullanır. | |
4) | Karmaşık yazılım mühendisliği problemlerini saptar, tanımlar, formüle eder ve çözer; bu amaçla uygun analitik yöntemler ile modelleme yöntemlerini seçer ve uygular. | |
5) | Bilgisayar bilimleri ve yazılım mühendisliği uygulamaları için gerekli olan modern teknik ve araçları ve bilişim teknolojilerini seçer ve etkin bir şekilde kullanır. | |
6) | Bilgisayar ve yazılım tabanlı karmaşık bir sistemi, süreci, cihazı veya ürünü ekonomi, çevre sorunları, sürdürülebilirlik, üretilebilirlik, etik, sağlık, güvenlik, sosyal ve politik sorunlar gibi öğeler dahil gerçekçi kısıtlar ve koşullar altında, belirli gereksinimleri karşılayacak şekilde tasarlar; bu amaçla modern tasarım yöntemlerini uygular. | |
7) | Sorumluluk aldığı çalışmalarda var olan normları ve standartları eleştirel bakış açısıyla değerlendir. | |
8) | Sürekli gelişen yazılım mühendisliği alanının ve küresel rekabet ortamının gerektirdiği yetkinliklere sahiptir. | |
9) | Türkçe sözlü ve yazılı olarak etkili iletişim kurar ve B2 düzeyinde Yabancı Dilde (İngilizce) iletişim kurma yetkinliğine sahiptir. |
BÖLÜM IV: DERSİN ÖĞRENME VE ÖĞRETME YÖNTEMLERİ İLE ÖLÇME VE DEĞERLENDİRME YÖNTEMLERİ |
Ölçme ve Değerlendirme Yöntemleri | Uygulama Sayısı / Yarıyıl | Katkı Oranı |
Projeler | 2 | % 30.00 |
Ara Sınavlar | 1 | % 20.00 |
Yarıyıl Sonu Sınavı | 1 | % 50.00 |
Toplam | % 100 | |
YARIYIL İÇİ ÖLÇME VE DEĞERLENDİRME YÖNTEMLERİNİN BAŞARI NOTUNA KATKI ORANI | % 50 | |
YARIYIL SONU SINAVININ BAŞARI NOTUNA KATKI ORANI | % 50 | |
Toplam | % 100 |
BÖLÜM V: DERSİN İŞ YÜKÜ VE AKTS KREDİSİ |
ÖĞRENME VE ÖĞRETME ETKİNLİKLERİ İŞ YÜKÜ | |||
Öğrenme ve Öğretme Etkinlikleri | Etkinlik Sayısı/Yarıyıl | Süresi (saat) | Toplam İş Yükü |
Ders | 0 | 0 | 0 |
Laboratuvar | 0 | 0 | 0 |
Uygulama | 0 | 0 | 0 |
Derse Özgü Staj | 0 | 0 | 0 |
Arazi Çalışması | 0 | 0 | 0 |
Sınıf Dışı Ders Çalışması | 0 | 0 | 0 |
Sunum / Seminer | 0 | 0 | 0 |
Proje | 0 | 0 | 0 |
Ödevler | 0 | 0 | 0 |
Öğrenme ve Öğretme Etkinlikleri Toplam İş Yükü | - | - | 0 |
ÖLÇME VE DEĞERLENDİRME ETKİNLİKLERİ İŞ YÜKÜ | |||
Ölçme ve Değerlendirme Etkinlikleri | Etkinlik Sayısı/Yarıyıl | Süresi (saat) | Toplam İş Yükü |
Kısa Sınav | 0 | 0 | 0 |
Ara Sınavlar | 0 | 0 | 0 |
Yarıyıl Sonu Sınavı | 0 | 0 | 0 |
Ölçme ve Değerlendirme Etkinlikleri Toplam İş Yükü | - | - | 0 |
TOPLAM İŞ YÜKÜ (Öğrenme ve Öğretme + Ölçme ve Değerlendirme Etkinlikleri) | 0 | ||
DERSİN AKTS KREDİSİ (Toplam İş Yükü/25.5 Saat) | 5 |