Author Topic: DeepDream  (Read 1541 times)

puddy

  • Global Moderator
  • Gopher
  • *****
  • Posts: 72
  • Karma: +18/-0
    • View Profile
DeepDream
« on: July 07, 2015, 03:07:23 am »
Ich bin sicher, ihr habt alle von DeepDream gehört
http://googleresearch.blogspot.de/2015/07/deepdream-code-example-for-visualizing.html
Praktischerweise hat Google den Code frei gegeben.

Da ich das hochspannend finde, will ich selbstverständlich damit rumspielen. Dafür brauche ich Informationen. Deshalb sammle ich Links. Ich habe mich entschieden das einfach hier zu tun, dann hat vielleicht auch mal wer anders was davon.
Wie immer ist reddit eine tolle Quelle.

https://www.reddit.com/r/deepdream/
Unter anderem mit diesem Windows guide
https://www.reddit.com/r/deepdream/comments/3c2s0v/newbie_guide_for_windows/
In diesem Vagrant file ist logischerweise auch ein ziemlich straight forward approach für linux..
Quote
  config.vm.provision "shell", inline: <<-SHELL
    sudo apt-get update
    sudo apt-get install -y git bc wget
    sudo apt-get install -y libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libboost-all-dev libhdf5-serial-dev
    sudo apt-get install -y libgflags-dev libgoogle-glog-dev liblmdb-dev protobuf-compiler
    sudo apt-get install -y libopenblas-base libopenblas-dev
    git clone https://github.com/BVLC/caffe.git
    cd caffe
    cp Makefile.config.example Makefile.config
    sed -i "s/# CPU_ONLY := 1/CPU_ONLY := 1/" Makefile.config
    sed -i "s/BLAS := atlas/BLAS := open/" Makefile.config
    make -j`nproc` all

    # Uncomment the below if you're feeling paranoid.  We're not running in production or anything, here.
    # make -j`nproc` test
    # make -j`nproc` runtest

    make -j`nproc` pycaffe
    for req in $(cat python/requirements.txt); do sudo pip install $req; done
    echo 'export PYTHONPATH=/home/vagrant/caffe/python:$PYTHONPATH' >> /home/vagrant/.profile
    if [ ! -f "/home/vagrant/caffe/models/bvlc_googlenet/bvlc_googlenet.caffemodel" ]; then
        wget -q http://dl.caffe.berkeleyvision.org/bvlc_googlenet.caffemodel -O /home/vagrant/caffe/models/bvlc_googlenet/bvlc_googlenet.caffemodel
    fi
  SHELL

Auf meinem Desktop mit der GTX 760 (die dank CUDA für den Task gut geeignet sein sollte) boote ich leider nur Windows, ich bin gespannt was mein i5 im Notebook dazu sagt.
-- gerade mal am Desktop in der VM laufen lassen, Phenom II x4 955 (4x3.6 Ghz) ist ganz schön beschäftigt. Braucht Minuten für einen Durchlauf. Also werde ich wohl die Tage mal ein live System booten und sehen, wie viel flotter meine Graka ist. Wir haben in der Hochschule auch ein Tesla rack, ich versuche mal heraus zu finden wem das gehört und wie leicht es ist da mein Notebook dran zu stecken und caffe zu sagen, dass er damit Kochen soll. Ein 792x792 Foto ist in der VM auf meiner CPU nach ca 30 Minuten mit 40 Iterationen fertig (das ist son mittelmäßiges "fuck me up" Niveau)
-- ein 730x548 Bild war gerade in 4 Minuten fertig
-- 720x1280 in 11 Minuten

Mich beschäftigt ebenfalls die Frage "und was ist mit Audio?".
http://danielnouri.org/notes/2014/01/10/using-deep-learning-to-listen-for-whales/
Quote
The trick to my early success was that I framed the problem of finding the whale sound patterns as an image reconition problem, by turning the two-second sound clips each into spectrograms. Spectrograms are essentially 2-d arrays with amplitude as a function of time and frequency.
Gute Idee!

Sehr unterhaltsamer Talk zu Neuralen Netzen, auch für Einsteiger


[OK] Zum Laufen bekommen
- Mit Parametern spielen
- Performance verbessern
- Eigene Trainingsdaten ausprobieren
- Auf Sound trainieren (erstmal mit Spektogrammen versuchen)


http://karpathy.github.io/2015/05/21/rnn-effectiveness/
https://np.reddit.com/r/deepdream/comments/3c45b3/could_this_technology_be_somehow_adapted_to_work/

so far.

//07.07.
http://www.mo-data.com/a-tour-of-machine-learning-algorithms-bigdata-machinelearning
//08.07.
change training model
https://www.reddit.com/r/deepdream/comments/3cgiao/anyone_experimenting_with_other_models/
Quote
model_path = '/src/models/googlenet_places205/' # Set your own path here net_fn = model_path + 'deploy_places205.protxt' param_fn = model_path + 'googlelet_places205_train_iter_2400000.caffemodel'
http://places.csail.mit.edu/downloadCNN.html
https://github.com/BVLC/caffe/wiki/Model-Zoo
// 14.07.
http://radar.oreilly.com/2014/07/how-to-build-and-run-your-first-deep-learning-network.html


#EDIT Rechtschreibung (ich hab tatsächlich "indeesem" statt "in diesem" geschrieben. Deutschen Text produzieren und Englischen Talk hören überfordert mich scheinbar .. )
« Last Edit: July 14, 2015, 09:40:02 pm by puddy »

puddy

  • Global Moderator
  • Gopher
  • *****
  • Posts: 72
  • Karma: +18/-0
    • View Profile
Re: DeepDream
« Reply #1 on: July 07, 2015, 03:15:42 am »
Ich glaub ich setz das mal auf der GameBox auf!