Webスクレイピングの勉強会に行ってきた

ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。

第1回Webスクレイピング勉強会@東京

昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。

私達は、もう一つのWebの可能性に注目します。

もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。

その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。

 

 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。

こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。

Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)

関連記事

libigl:軽量なジオメトリ処理ライブラリ

ZScript

頭蓋骨からの顔復元と進化過程の可視化

ROMOハッカソンに行ってきた

ディープラーニング

RSSフィードを読込んで表示するWordpressプラグイン『RSSImport』

UnityでLight Shaftを表現する

Kubric:機械学習用アノテーション付き動画生成パイプライン

機械学習に役立つPythonライブラリ一覧

AMIMOTO(PVM版)で作成したインスタンスをAMIMOTO (HVM版)へ移行する

iPhone・iPod touchで動作する知育ロボット『ROMO』

Unityの薄い本

Runway ML:クリエイターのための機械学習ツール

C++ 標準テンプレートライブラリ (STL)

スクラッチで既存のキャラクターを立体化したい

Geogram:C++の3D幾何アルゴリズムライブラリ

ブラウザ上でJavaScript,HTML,CSSを書いて共有するサイト『jsdo.it』

OpenCVで動画の手ぶれ補正

CycleGAN:ドメイン関係を学習した画像変換

JavaScriptとかWebGLとかCanvasとか

『Geocities-izer』 どんなWebページも一昔前のダサいデザインに変えてくれるサービス

UnityプロジェクトをGitHubで管理する

FreeMoCap Project:オープンソースのマーカーレスモーションキャプチャ

COLMAP:オープンソースのSfM・MVSツール

BlenderProc:Blenderで機械学習用の画像データを生成するPythonツール

3Dモデルを立体視で確認できるVRアプリを作っている

第2回Webスクレイピング勉強会の資料

OpenCVの三角測量関数『cv::triangulatepoints』

IronPythonを使ってUnity上でPythonのコードを実行する

Super Resolution:OpenCVの超解像処理モジュール

Polyscope:3Dデータ操作用GUIライブラリ

『手を動かしながら学ぶエンジニアのためのデータサイエンス』ハンズオンセミナーに行ってきた

Rerun:マルチモーダルデータの可視化アプリとSDK

Unity ARKitプラグインサンプルのチュートリアルを読む

オープンソースの顔の動作解析ツールキット『OpenFace』

ブログのデザイン変えました

MPFB2:Blenderの人体モデリングアドオン

定数

オープンソースの人体モデリングツール『MakeHuman』のAPI開発プロジェクトがスタート

Google XML Sitemap Generatorプラグインを3.4.1へダウングレード

PyDataTokyo主催のDeep Learning勉強会

Blender 2.8がついに正式リリース!

コメント