Coder Social home page Coder Social logo

dogrun's People

Contributors

sinmetal avatar

Watchers

 avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar

dogrun's Issues

コードオブコンダクト制定

コードオブコンダクト (行動規範) を作成する。
最初に利用する予定は、dogrunのイベントだが、そのままGCPUGのコードオブコンダクト (行動規範) として、採用できると嬉しい。

I want to know the estimate of the time required for processing before import / export

import/exportする際に、前もって処理にかかる時間の目安を知りたい。

WHAT

import/exportする際に、前もって処理にかかる時間の目安を知りたい。
データのバイト数/件数 などによって大まかな目安があるならば教えてほしい。

WHY

前もって計測すればいい話ではあるが、実際に運用していくうえでデータの持ち方は当初の想定通りとはいかず、運用が始まってから本番と同等のデータを検証用に準備するのも大変。
可能であればどれくらいの時間がかかるのかを前もって知りたい。もしくは、データのバイト数/件数 などが支配的に影響して比例するのであれば、その目安を教えてほしい。

I want to select Region to be WRITE in Multi-region

WHAT

Region of WRITE is US fixed if it is current multi-region, but I want you to choose this.

現状のMulti-regionだとWRITEのRegionがUS固定だが、これを選べるようにして欲しい。

WHY

I usually do WRITE in Tokyo Region and if disaster occurs in Tokyo Region, I would like to do disaster recovery such as WRITE in Taipei Region.

普段はTokyo RegionでWRITEしておいて、もしTokyo Regionで障害が発生した場合は、Taipei RegionでWRITEするといった、ディザスターリカバリーを行いたい。

I want to describe security rules in multiple files

WHAT

It is hard to manage all the security rules with one file.
Can you create something separate for each collection and do something like include?

すべてのセキュリティルールを1つのファイルで管理するのはつらい。
collectionごとに別のファイルに分けて作成して、includeのようなことができないだろうか?

WHY

ファイルを分割するためのimport/exportです
1ファイルに全部書かされるのが辛いんです

I want Firestore Security Rule AST Parser

WHAT

Firestore Security RuleのAST Parserが欲しい

WHY

I want to create a tool to generate security rules from TypeScript and Go type information
I want to check generated security rules without deploying correctness

TypeScriptやGoの型情報から セキュリティルールを生成するツールが作りたい
生成される セキュリティルールが正しいかどうかをデプロイせずに確かめたい

I want you to be able to set not null (+ default value) when adding a column

カラム追加時にnot null(+default value)を設定できるようにしてほしい

WHAT

テーブルへのカラム追加時にnot null(+default value)を設定できるようにしてほしい

WHY

アプリケーションの開発・運用ではカラムの追加が頻繁に起こるので、default値が設定できると大変ありがたい。
また一般的なRDBMSでは、即時反映ではないがnot null(+default value)のカラム追加が可能である。
RDBMSとNoSQLの両立を目指すCloud Spannerでは是非いつか対応してほしい。

【以下はこちらの想像】
Spannerのカラム追加とは、実データの操作をせずにカラムが存在しているというフラグを立てるのみで、アクセスしたときに評価を行ってkeyに紐づくそのカラムの値が無ければnullを返すようにしていると思う。(そしてupdateの際にカラムに値が指定されれば、そのとき初めて実際に値が入る)
そう考えると、keyに紐づくそのカラムの値が無ければdefault値を返すように出来るんじゃないかと勝手に想像している。
Cloud Spannerのinformation_schemaを取得するとCOLUMN_DEFAULTなる予約領域のようなものが既に存在しているので、少し期待している

I want the ability to put Spanner's change event in PubSub

As a user, I want to have a publisher in Spanner that would publish updated data in Spanner, like BINLOG in MySQL, to Pub/Sub. So that I can make a trigger for that.

WHAT

MySQLのBINLOGみたいなのをPubSubにぶっこむ機能が欲しい

WHY

変更をトリガーしたい

Will there be a Apache Beam Firestore IO in future?

To Read/Write Firestore Native Mode database with Apache beam.
As user, I want to do Read/Write Firestore Native Mode database with Apache beam.

WHAT

Firestore Native ModeのDatabaseをApache BeamでRead/WriteをするためにFirestoreIOがリリースされる?

WHY

Firestore Native ModeのDatabaseをApache BeamでRead/Writeを行いたい!

Spannerの名前の由来は?

Ask

もともとは世界中にspanするspannerだったが、スパナー(工具の)で色々治せるやん?でそっちになった

Is there going to be a difference of performance between Firestore Datastore Mode and legacy Cloud Datastore?

Firestore : Datastore Mode は既存のDatastoreとパフォーマンスは変わる?

WHAT

Everything became Strong Consistency in Firestore Datastore Mode, so is there going to be performance difference? In the Documentation states "Not yet fully optimized; may experience increased latency during beta", so when it comes to GA, performance will change?
As people who is using legacy Cloud Datastore users, is there something to consider in terms of performance difference?

すべてがStrong Consistencyになったことで、既存のDatastoreよりパフォーマンスが落ちたりするのだろうか?
ドキュメントには以下のように書いてあるけど、GAになるとパフォーマンスが変わったりする?

Not yet fully optimized; may experience increased latency during beta

WHY

既存のDatastoreを使っている人たちは、パフォーマンスのために何か考えることはあるのだろうか?

What are shared between Datastore mode and Native mode?

Datastore mode and Native mode has the same Cloud Firestore brand but they are exclusive currently.
It is not obvious the correspondence between the two modes.
Which layers are shared between the two modes?

  • ACID & regional replicated storage layer(Some Googlers say it is Spanner)
  • entity and index(like structure written in the Datastore articles How Entities and Indexes are Stored)
  • Datastore API (Native mode overlays on Datastore mode)

質問: Datastore mode と Native mode の間では何が共有されているんでしょうか。
Datastore mode と Native mode は同一の Cloud Firestore のブランドを共有していますが、2つのモードは現在排他的です。
2つのモードの間の関係性はあまり明確ではありません。
どのレイヤー(まで)が2つのモードで共有されているのでしょうか。

I want an option to avoid hotspots even if using key like autoincrement

オートインクリメントのようなkeyを使用してもホットスポットを回避できるオプションがほしい

WHAT

CloudSpannerではオートインクリメントのように単調増加または単調減少するような値をkeyに使用するとホットスポットが発生するが、それを回避するオプション、またはクライアントライブラリによる機能が欲しい

WHY

keyを発行・管理するサービスが外部にあるというユースケースが存在し、そういう場合はたいてい単調増加するkeyであり、Spannerでも同じkeyを(見た目上は)使えることが望ましい。

単調増加するkeyは[A.ビット列逆転する B.暗号化処理する]などを行ったうえでSpannerに保存することでホットスポットの問題を避けることができるので、アプリケーションとしてそのように実装すればいい話ではあるが、できればサービス間で変換処理を行わず同じkeyを使用したい。

RANGEのSQLが使えなくても良いので、このような処理をやってくれて見た目の上では単調増加なkeyが使えるオプション、またはクライアントライブラリの機能が欲しい

I want to limit the CPU usage rate for each DB

As user, I want to limit CPU utilization by each DB so that I can use Cloud Spanner as multi-tenancy DB.
If I want to use spanner with small application, it is not cost efficient so I want to put multiple applications data in to one Cloud Spanner cluster. In order to do so, I want to limit CPU utilization for each application (=DB) to virtually isolate computational resources among each application.

WHAT

同じInstanceのDBのCPU利用率の最大値を設定したい

WHY

小さなApplicationを1つのInstanceに入れると、ランニングコストが高すぎるので、複数のApplicationを同じInstanceの別のDBに入れたい。
ただ、その場合、1つのApplicationがCPUを使い切ると、他のApplicationに影響が出るので、CPU利用率のMAXを設定したい。

Firestoreのリージョンを変更できるようになりますか?

WHAT

最初にFirestoreのリージョンを決めた後、変更したい

Ask

近い将来では厳しい。1つのリージョンで大丈夫だろうとは思っていた。現時点では、複数のProjectを作成して、Import/Exportするような形になると思っている。

I want to place Firestore, Datastore, AppEngine in another Region

Firestore, Datastore, AppEngineを別のRegionに配置したい

WHAT

Firestore, Datastore, AppEngineをProjectで1つ最初に選んだRegionしか使えないので、それぞれRegionを選択したい。

WHY

AppEngineはエンドユーザに近いTokyo Regionを利用する。
DatastoreはGKEが分析のために値段が安いUS Regionで利用したい。

What is the use case that strongly recommends using Cloud Bigtable rather than Cloud Spanner?

In Cloud Spanner, recently added "batch read" feature so that it can also handle "big data" "general" processing. (such as analysis and more)
Traditionally for Cloud BigTable was stated as "Google Cloud Bigtable is Google's NoSQL Big Data database service". However, the current trend for GCP products is migrating from the Megastore backend to Spanner backend. Cloud Spanner gets parallel reads, batch read and other feature to able to process "Big Data". Where does Cloud BigTable will fit now and the future?

Cloud Spanner ではなく Cloud Bigtable を使用することを強くお勧めするユースケースは何ですか?

Cloud Spanner にも batch read が追加されるなどして「ビッグデータ」での利用にもある程度耐えるものになっていると考えられるが、明確に Cloud Spanner よりも Cloud Bigtable を使うべきなのはどういう場面なのか。

I want you to be able to specify the number of workers of Dataflow when import / export

import/export する際に、Dataflowのワーカー数の指定をできるようにしてほしい

WHAT

Dataflowのワーカー数(minNumWorkers, maxNumWorkers)やマシンスペックを指定できるようにしたい。

WHY

おかねが掛かっても良いからとにかく速くバックアップ/リストアできるようなっていると安心

How should a secondary index be designed?

セカンダリインデックスはどのように設計するのがよいだろうか?

WHAT

  • Does INSERT, DELETE slow if I set a lot of secondary indexes?

  • Shared is indispensable for index to monotonically increasing value?

  • セカンダリインデックスをたくさん設定すると、INSERT, DELETEが遅くなる?

  • 単調増加する値へのインデックスはSharedが必須?

Set Shard and perform a full scan if you do a simple query

CREATE INDEX Order1MShardCreatedAtDesc
  ON Order1M (ShardCreatedAt, CreatedAt DESC)

SELECT * 
FROM Order1M@{FORCE_INDEX=Order1MShardCreatedAtDesc} 
WHERE ShardCreatedAt BETWEEN 0 AND 9
ORDER BY CreatedAt DESC 
LIMIT 10

image

It is quick if you acquire LIMIT by shard for each shard and rearrange

SELECT c.*
FROM (
  SELECT 
    ARRAY(
      SELECT AS STRUCT *
      FROM Order1M@{FORCE_INDEX=Order1MShardCreatedAtDesc}
      WHERE ShardCreatedAt = a.ShardCreatedAt
      ORDER BY CreatedAt DESC LIMIT 10
    ) AS ar
  FROM Order1M@{FORCE_INDEX=Order1MShardCreatedAtDesc} a
  WHERE ShardCreatedAt BETWEEN 0 AND 9
  GROUP BY ShardCreatedAt
) b, UNNEST(ar) c
ORDER BY c.CreatedAt DESC
LIMIT 10

image

WHY

Refs

https://cloudplatform.googleblog.com/2018/05/Sharding-of-timestamp-ordered-data-in-Cloud-Spanner.html

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.